Google Bard распространяется среди пользователей.
Стив Возняк, Илон Маск и более 1000 человек подписали открытое письмо с просьбой немедленно приостановить на шесть месяцев использование технологии искусственного интеллекта, более мощной, чем ChatGPT-4.
Это был год, когда агенты искусственного интеллекта, такие как ChatGPT и Google Bard, стали массовыми. Несмотря на то, что все компании, занимающиеся искусственным интеллектом, описывают свои продукты как экспериментальные или фактически бета-версии, их функции обработки языка интегрируются в Microsoft 365 и поисковые системы, включая Bing.
Теперь Институт будущего жизни просит сделать «публичную и поддающуюся проверке» паузу, включающую «всех ключевых действующих лиц» в этой области. «Если такая пауза не может быть принята быстро, — добавляет он, — правительства должны вмешаться и ввести мораторий».
Институт будущего жизни стремится «направить преобразующие технологии на благо жизни и избежать экстремальных крупномасштабных рисков».
В этом письме из 600 слов, адресованном всем разработчикам ИИ, утверждается, что пауза необходима, потому что «в последние месяцы лаборатории ИИ застряли в неконтролируемой гонке за разработку и развертывание все более мощных цифровых умов, которые никто — даже их создатели — могут понять, предсказать или надежно контролировать».
«Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта, которые тщательно проверяются и контролируются независимыми внешними экспертами», — продолжает он. «Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений безопасны».
«Это не означает паузу в развитии ИИ в целом, — говорится в открытом письме, — это просто шаг назад от опасной гонки к все более крупным непредсказуемым моделям черного ящика с новыми возможностями».
На момент написания открытое письмо института подписали 1123 человека. К ним относятся такие громкие, как:
Илон Маск, генеральный директор SpaceX, Tesla и Twitter Стив Возняк, соучредитель Apple Яан Таллинн, соучредитель Skype Эван Шарп, соучредитель Pinterest
И Google, и Microsoft работают над внедрением технологических инструментов на основе новых систем чат-ботов с искусственным интеллектом. Первоначальный запуск реализации Bing от Microsoft прошел плохо, и Bard от Google допустил фактическую ошибку в своей первой демонстрации.
