Сэм Альтман заявил, что ИИ может случайно захватить мир
Глава OpenAI Сэм Альтман заявил, что потеря контроля над искусственным интеллектом (ИИ) может произойти не только из-за злого умысла или сбоев технологий, но и «совершенно случайно». Об этом он рассказал в подкасте MD MEETS с главой Axel Springer Матиасом Дёпфнером, сообщает Bidd.
По словам Альтмана, сегодня сотни миллионов людей ежедневно используют ChatGPT, а вскоре их число вырастет до миллиардов.
«Люди все больше полагаются на его ответы — при принятии важных решений в жизни, на работе, во всем», — отметил он.
Альтман объяснил, что зависимость от ИИ усиливается по мере его развития:
«Предположим, модель становится все умнее и умнее, даёт вам советы, которым вы почти всегда следуете. Потом она становится ещё умнее. И теперь даёт вам советы, которые вы даже не понимаете, но они оказываются правильными. И в итоге у вас выбор: либо следовать, либо проигрывать в конкуренции».
В такой ситуации, подчеркнул он, люди фактически начинают действовать по указанию искусственного интеллекта, даже не осознавая этого.
«В конце концов мы все делаем то, что говорит нам ассистент с искусственным интеллектом. По крайней мере те, кто хочет оставаться конкурентоспособным», — сказал глава OpenAI.
Альтман назвал это «петлей обратной связи»: чем больше люди слушают ИИ, тем больше данных он получает, становится умнее и усиливает своё влияние.
«Кто вообще тогда контролирует процесс? Получается, что мы делаем то, чего хочет модель», — резюмировал он.
Напомним, ровно год назад Сэм Альтман в своём эссе рассуждал о «веке интеллекта», будущем прогрессе с развивающимся AI. Он также заявил в своём блоге, что стоимость использования ИИ будет снижаться ежегодно в 10 раз, а низкие цены будут привлекать все больше пользователей.
События
