Увольнение Альтмана отражает раскол в вопросе будущего развития ИИ

САН-ФРАНЦИСКО, 21 ноя (Рейтер) – Раскол, стоивший
вундеркинду в области искусственного интеллекта Сэму Альтману
должности генерального директора OpenAI, отражает
фундаментальные разногласия о безопасности, в целом, между двумя
лагерями, которые разрабатывают программное обеспечение,
меняющее жизнь человечества, и размышляют о влиянии ИИ на
общество.

С одной стороны – такие, как Альтман: они уверены, что
необходима быстрая разработка и внедрение ИИ в обиход, а
стресс-тесты и отшлифовка технологии будут происходить уже в
процессе. С другой стороны – сторонники наиболее осторожного и
безопасного пути: глубокой разработки ИИ с испытаниями в
лабораторных условиях, которые дадут уверенность, что машинный
интеллект, так сказать, безопасен для потребления человеком.

Альтман был уволен в пятницу из компании, которая создала
популярный чат-бот ChatGPT.

Некоторые опасаются, что сверхинтеллектуальные программы
могут стать неуправляемыми и привести к катастрофе –
объединенные такими опасениями технологи создали общественное
движение под лозунгом «эффективного альтруизма» – они считают,
что достижения ИИ должны приносить пользу человечеству. Среди
тех, кто разделяет эти опасения, – Илья Суцкевер, главный
научный сотрудник OpenAI и член совета директоров, одобривший
отстранение Альтмана.

Тревоги по поводу генеративного искусственного интеллекте
достигли апогея после неожиданного смещения Альтмана, который
также являлся соучредителем OpenAI. Генеративный ИИ – это
термин, обозначающий программное обеспечение, которое в ответ на
простые запросы может выдавать связный контент, например, эссе,
компьютерный код или похожие на фото изображения. Взрыв
популярности ChatGPT от OpenAI за последний год обострила
дискуссию о том, как лучше регулировать и развивать это
программное обеспечение.

«Вопрос в том, является ли это просто очередным продуктом,
как социальные сети или криптовалюта, или же это технология,
которая способна превзойти человека и стать неконтролируемой, –
сказал сторонник лагеря безопасного пути Коннор Лихи из
ConjectureAI. – Будет ли будущее принадлежать машинам?»

По мнению Суцкевера, Альтман слишком быстро отдал
программное обеспечение OpenAI в руки пользователей, что могло
создать угрозу.

«У нас нет рецепта, как управлять сверхразумным ИИ, как его
контролировать и потенциально предотвратить его выход из-под
контроля, – отметили Суцкевер с его заместителем. – Люди не
смогут надежно контролировать системы ИИ, которые намного умнее
нас».

Особую озабоченность вызвал тот факт, что в начале ноября
OpenAI анонсировала ряд новых коммерческих продуктов, включая
версию программного обеспечения ChatGPT-4 и так называемых
агентов, которые работают как виртуальные помощники.

Суцкевер не ответил на просьбу о комментарии.

В воскресенье OpenAI назначила временным генеральным
директором Эммета Шира, бывшего главу стриминговой платформы
Twitch. В сентябре в социальных сетях он высказывался за
замедление развития ИИ.

«Если мы сейчас нашу скорость обозначить как 10, то пауза –
это замедление до 0. Я думаю, что мы должны стремиться к 1-2», –
написал тогда Шир.

Оригинал сообщения на английском языке доступен по коду:

(Грег Бенсингер в Сан-Франциско)