Возняк, Маск и другие призывают к «неконтролируемой» паузе в разработке ИИ

Google Bard распространяется среди пользователей.

Стив Возняк, Илон Маск и более 1000 человек подписали открытое письмо с просьбой немедленно приостановить на шесть месяцев использование технологии искусственного интеллекта, более мощной, чем ChatGPT-4.

Это был год, когда агенты искусственного интеллекта, такие как ChatGPT и Google Bard, стали массовыми. Несмотря на то, что все компании, занимающиеся искусственным интеллектом, описывают свои продукты как экспериментальные или фактически бета-версии, их функции обработки языка интегрируются в Microsoft 365 и поисковые системы, включая Bing.

Теперь Институт будущего жизни просит сделать «публичную и поддающуюся проверке» паузу, включающую «всех ключевых действующих лиц» в этой области. «Если такая пауза не может быть принята быстро, — добавляет он, — правительства должны вмешаться и ввести мораторий».

Институт будущего жизни стремится «направить преобразующие технологии на благо жизни и избежать экстремальных крупномасштабных рисков».

В этом письме из 600 слов, адресованном всем разработчикам ИИ, утверждается, что пауза необходима, потому что «в последние месяцы лаборатории ИИ застряли в неконтролируемой гонке за разработку и развертывание все более мощных цифровых умов, которые никто — даже их создатели — могут понять, предсказать или надежно контролировать».

«Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта, которые тщательно проверяются и контролируются независимыми внешними экспертами», — продолжает он. «Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений безопасны».

«Это не означает паузу в развитии ИИ в целом, — говорится в открытом письме, — это просто шаг назад от опасной гонки к все более крупным непредсказуемым моделям черного ящика с новыми возможностями».

На момент написания открытое письмо института подписали 1123 человека. К ним относятся такие громкие, как:

Илон Маск, генеральный директор SpaceX, Tesla и Twitter Стив Возняк, соучредитель Apple Яан Таллинн, соучредитель Skype Эван Шарп, соучредитель Pinterest

И Google, и Microsoft работают над внедрением технологических инструментов на основе новых систем чат-ботов с искусственным интеллектом. Первоначальный запуск реализации Bing от Microsoft прошел плохо, и Bard от Google допустил фактическую ошибку в своей первой демонстрации.