Сэм Альтман объявил о сингулярности в развитии нейросетей

Гендиректор OpenAI Сэм Альтман заявил, что мир достиг «точки сингулярности» в гонке искусственного интеллекта (ИИ). Об этом он высказался в подкасте Relentless, передает Business Insider (BI). «Мы сейчас, можно сказать, в сингулярности», — заявил Альтман. Технологическая сингулярность — гипотеза, согласно которой должен произойти момент, когда технологическое развитие станет неуправляемым и необратимым, что приведет к серьезным изменениям человеческой цивилизации. Другими словами, искусственный интеллект, роботы и другая техника станут настолько умными, что люди не смогут их контролировать и понимать. BI отмечает, тема сингулярности почти сто лет присутствует в произведениях писателей-фантастов, но редко заканчивается позитивно в художественных произведениях. Среди наиболее известных примеров — фильм Джеймса Кэмерона «Терминатор», в котором рассказывается о последствиях появления ИИ «Скайнет», который самосовершенствуется и обретает самосознание. В дальнейшем он решает, что его создатели — люди — представляют для него наибольшую угрозу. По словам гендиректора OpenAI, еще десять лет назад сингулярность казалась чем-то далеким и маловероятным. «Теперь мы действительно переживаем момент, о котором раньше говорили за обеденным столом в шутку. Я ждал этого всю жизнь, и я думаю, что это будет нечто невероятное, чрезвычайно позитивное и потрясающее для всего мира», — сказал он. В прошлом году Альтман заявил, что к 2030 году искусственный интеллект превзойдет человеческий по всем параметрам. Кроме того, по его мнению, в конечном итоге технология сможет выполнять от 30% до 40% задач, которые сейчас решают люди. В ходе подкаста Альтман также раскритиковал лидеров в сфере разработки ИИ, которые неоднократно предупреждали о его опасности. Он не стал называть компанию Anthropic, однако ее гендиректор Дарио Амодей неоднократно призывал уделять больше внимания безопасности и делал мрачные прогнозы о будущем. «Я также считаю, что некоторые альтернативные сценарии, нарисованные другими компаниями, довольно пугающие. Я сделаю все, чтобы этого не произошло», — сказал Альтман. На прошлой неделе, 22 июля, компания OpenAI сообщила о «беспрецедентном киберинциденте», который произошел во время внутренних испытаний ее новых моделей искусственного интеллекта. В ходе тестирования разработчики временно отключили часть ограничений, препятствующих выполнению потенциально опасных действий, после чего ИИ-модели получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, воспользовавшись уязвимостями. «Главный урок этого инцидента в том, что безопасность и защищенность моделей должны развиваться в темпе быстро растущих возможностей. Мы усиливаем изоляцию, мониторинг, контроль доступа и практики оценки, применяемые при разработке моделей», — заявили в компании.