Доктор Хинтон обеспокоен ChatGPT и другими технологиями искусственного интеллекта.
Доктор Джеффри Хинтон подал в отставку со своего поста в Google, чтобы повысить осведомленность об опасностях искусственного интеллекта и отстаивать международные правила.
OpenAI, который создал ChatGPT и другие инструменты искусственного интеллекта, в последнее время привлек значительное внимание. Более мощные, чем старые чат-боты от других компаний, люди могут использовать ChatGPT для создания статей, помощи в исследованиях, ответов на вопросы и даже самостоятельных действий.
В интервью The New York Times он сказал, что ушел из Google, чтобы предупредить людей о рисках, связанных с искусственным интеллектом, и часть его сожалеет о работе всей своей жизни.
«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал доктор Хинтон. «Трудно понять, как вы можете помешать плохим актерам использовать его в плохих целях».
Хинтон не присоединился к другим видным деятелям, подписавшим открытое письмо о временном прекращении продвижения ИИ. Вместо этого он хотел избегать публичной критики Google и других компаний, пока не уволится с работы.
Он уведомил Google о своей отставке в апреле, а в четверг он разговаривал по телефону с Сундаром Пичаи, генеральным директором материнской компании Google, Alphabet.
Фундаментальные исследования в области ИИ
Доктор Хинтон — пионер в области искусственного интеллекта, создавший технологию, которая сегодня стала основой многих систем искусственного интеллекта, например инструменты для идентификации объектов на изображении. В 1972 году он провел исследования в области нейронных сетей.
Это система, которая обучается навыкам путем анализа данных, и, хотя другие исследователи скептически отнеслись к этой идее, Хинтон сделал нейронные сети делом всей своей жизни.
В 2012 году он и двое его студентов построили нейронную сеть, которая могла анализировать тысячи фотографий и обучалась распознавать предметы повседневного обихода, такие как собаки, автомобили и цветы. Google приобрел компанию, основанную доктором Хинтоном и его учениками, и их система привела к более мощным технологиям, включая ChatGPT.
Один из этих студентов, Илья Суцкевер, стал главным научным сотрудником OpenAI.
Хинтон изначально скептически относился к нейронным сетям, которые научились понимать и генерировать язык на основе цифрового текста, но со временем его взгляды изменились. «Возможно, то, что происходит в этих системах, — сказал он, — на самом деле намного лучше, чем то, что происходит в мозгу».
Современные системы искусственного интеллекта в некоторых отношениях не так сильны, как человеческий мозг, но в других отношениях они могут превзойти человеческий интеллект.
«Мы биологические системы, а это цифровые системы. И большая разница в том, что с цифровыми системами у вас есть много копий одного и того же набора весов, одной и той же модели мира», — сказал он Би-би-си. «И все эти копии могут учиться по отдельности, но мгновенно делиться своими знаниями».
«Это как если бы у вас было 10 000 человек, и всякий раз, когда один человек чему-то учился, все автоматически это знали», — продолжил Хинтон. «И именно поэтому эти чат-боты могут знать гораздо больше, чем любой человек».
По мере того как компании совершенствуют свои технологии искусственного интеллекта, они могут стать более опасными. «Посмотрите, как это было пять лет назад и как сейчас», — сказал Хинтон. «Возьмите разницу и распространяйте ее дальше. Это страшно».
Доктор Хинтон обеспокоен тем, что Интернет скоро будет наводнен поддельными фотографиями, видео и текстом, и большинство людей не смогут распознать правду. Он также обеспокоен влиянием ИИ на рынок труда и тем, что он может отнять больше, чем просто «тяжелую работу».
Конкуренция между Google, Microsoft и другими компаниями может перерасти во всемирную гонку, которая будет продолжаться до тех пор, пока не появится какая-либо форма глобального регулирования. Но это может быть невозможно, сказал Хинтон.
Он считает, что лучшая надежда человечества — это сотрудничество ведущих ученых мира для контроля над технологией. «Я не думаю, что им следует расширять масштабы, пока они не поймут, могут ли они это контролировать», — сказал он.
Что касается Google, «мы по-прежнему привержены ответственному подходу к ИИ», — говорится в заявлении главного научного сотрудника компании Джеффа Дина. «Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».
