«Крестный отец ИИ» ушел из Google и призывает ввести правила

Доктор Хинтон обеспокоен ChatGPT и другими технологиями искусственного интеллекта.

Доктор Джеффри Хинтон подал в отставку со своего поста в Google, чтобы повысить осведомленность об опасностях искусственного интеллекта и отстаивать международные правила.

OpenAI, который создал ChatGPT и другие инструменты искусственного интеллекта, в последнее время привлек значительное внимание. Более мощные, чем старые чат-боты от других компаний, люди могут использовать ChatGPT для создания статей, помощи в исследованиях, ответов на вопросы и даже самостоятельных действий.

В интервью The New York Times он сказал, что ушел из Google, чтобы предупредить людей о рисках, связанных с искусственным интеллектом, и часть его сожалеет о работе всей своей жизни.

«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал доктор Хинтон. «Трудно понять, как вы можете помешать плохим актерам использовать его в плохих целях».

Хинтон не присоединился к другим видным деятелям, подписавшим открытое письмо о временном прекращении продвижения ИИ. Вместо этого он хотел избегать публичной критики Google и других компаний, пока не уволится с работы.

Он уведомил Google о своей отставке в апреле, а в четверг он разговаривал по телефону с Сундаром Пичаи, генеральным директором материнской компании Google, Alphabet.

Фундаментальные исследования в области ИИ

Доктор Хинтон — пионер в области искусственного интеллекта, создавший технологию, которая сегодня стала основой многих систем искусственного интеллекта, например инструменты для идентификации объектов на изображении. В 1972 году он провел исследования в области нейронных сетей.

Это система, которая обучается навыкам путем анализа данных, и, хотя другие исследователи скептически отнеслись к этой идее, Хинтон сделал нейронные сети делом всей своей жизни.

В 2012 году он и двое его студентов построили нейронную сеть, которая могла анализировать тысячи фотографий и обучалась распознавать предметы повседневного обихода, такие как собаки, автомобили и цветы. Google приобрел компанию, основанную доктором Хинтоном и его учениками, и их система привела к более мощным технологиям, включая ChatGPT.

Один из этих студентов, Илья Суцкевер, стал главным научным сотрудником OpenAI.

Хинтон изначально скептически относился к нейронным сетям, которые научились понимать и генерировать язык на основе цифрового текста, но со временем его взгляды изменились. «Возможно, то, что происходит в этих системах, — сказал он, — на самом деле намного лучше, чем то, что происходит в мозгу».

Современные системы искусственного интеллекта в некоторых отношениях не так сильны, как человеческий мозг, но в других отношениях они могут превзойти человеческий интеллект.

«Мы биологические системы, а это цифровые системы. И большая разница в том, что с цифровыми системами у вас есть много копий одного и того же набора весов, одной и той же модели мира», — сказал он Би-би-си. «И все эти копии могут учиться по отдельности, но мгновенно делиться своими знаниями».

«Это как если бы у вас было 10 000 человек, и всякий раз, когда один человек чему-то учился, все автоматически это знали», — продолжил Хинтон. «И именно поэтому эти чат-боты могут знать гораздо больше, чем любой человек».

По мере того как компании совершенствуют свои технологии искусственного интеллекта, они могут стать более опасными. «Посмотрите, как это было пять лет назад и как сейчас», — сказал Хинтон. «Возьмите разницу и распространяйте ее дальше. Это страшно».

Доктор Хинтон обеспокоен тем, что Интернет скоро будет наводнен поддельными фотографиями, видео и текстом, и большинство людей не смогут распознать правду. Он также обеспокоен влиянием ИИ на рынок труда и тем, что он может отнять больше, чем просто «тяжелую работу».

Конкуренция между Google, Microsoft и другими компаниями может перерасти во всемирную гонку, которая будет продолжаться до тех пор, пока не появится какая-либо форма глобального регулирования. Но это может быть невозможно, сказал Хинтон.

Он считает, что лучшая надежда человечества — это сотрудничество ведущих ученых мира для контроля над технологией. «Я не думаю, что им следует расширять масштабы, пока они не поймут, могут ли они это контролировать», — сказал он.

Что касается Google, «мы по-прежнему привержены ответственному подходу к ИИ», — говорится в заявлении главного научного сотрудника компании Джеффа Дина. «Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».