«Прости, Дэйв, я не буду этого делать». (Изображение HAL 9000 от Warner Bros.)
Эксперты, в том числе «крестный отец ИИ», утверждают, что искусственный интеллект будет столь же опасен, как пандемии и ядерная война, и что его необходимо строго контролировать.
Институт будущего жизни ранее опубликовал открытое письмо с предупреждением об опасностях ИИ, подписанное более чем 1000 человек, включая Стива Возняка и Илона Маска. Это письмо касалось того, что было названо «вышедшим из-под контроля» развитием систем ИИ.
«Эксперты по ИИ, журналисты, политики и общественность все чаще обсуждают широкий спектр важных и неотложных рисков, связанных с ИИ», — говорится на сайте CAIS. «Даже в этом случае может быть трудно выразить обеспокоенность по поводу некоторых наиболее серьезных рисков передового ИИ».
В настоящее время под заявлением поставили свои подписи около 370 экспертов, в том числе генеральный директор OpenAI Сэм Альтман и несколько руководителей и менеджеров Google, работающих над ИИ. Совсем недавно он возражал против того, что, по его словам, потенциально является «чрезмерным регулированием» ИИ со стороны ЕС.
CAIS базируется в Сан-Франциско. Судя по сообщениям LinkedIn и онлайн-бюллетеням, он создавался с 2021 года и расширялся в начале 2023 года.
Организация заявляет, что стремится расширить «область исследований безопасности ИИ, предоставляя финансирование, исследовательскую инфраструктуру и образовательные ресурсы». Сюда входит финансирование семинара по безопасности машинного обучения стоимостью 100 000 долларов на NeurIPS 2022.
