Skip to main content

Яблочный ИИ |  Изображение робота

Было много слухов о планах Apple в области искусственного интеллекта, поскольку компания из Купертино до сих пор держалась в тени, в то время как Google и Microsoft активно погружаются в генеративный искусственный интеллект. Генеральный директор Тим Кук не пролил много света, когда его спросили об этом на прошлой неделе, сказав только, что ИИ «безусловно интересен», но есть «ряд проблем с технологией».

Серьезность этих вопросов очень активно обсуждается. Соучредитель Apple Стив Возняк в прошлом месяце присоединился к ведущим ученым в области искусственного интеллекта, призвав приостановить разработку передовых технологий искусственного интеллекта, но у двух пионеров искусственного интеллекта совершенно разные взгляды на риски…

Краткая история чат-ботов, в четырех абзацах

Есть много технологий, в которых прогресс кажется очень постепенным, пока — бах! — огромные изменения, кажется, происходят в одночасье. Технология генеративного искусственного интеллекта, такая как ChatGPT, была одной из таких.

Уже более полувека люди работают над созданием компьютеров, способных пройти тест Тьюринга: генерировать взаимодействия, которые нельзя отличить от человеческих.

ELIZA была одним из первых чат-ботов, которым удалось обмануть людей еще в 1964 году. Все, что они делали, — это отражали то, что кто-то сказал, и задавали вопросы в стиле консультанта, но некоторые из тех, кто тестировал ее, были убеждены, что это был человек.

ChatGPT вывел эту способность давать ответы, подобные человеческим, на совершенно новый уровень. По сути, все, что на самом деле делает технология, — это изучение текстов, относящихся к заданному вопросу или данной инструкции, и использование статистики для прогнозирования того, какое слово, скорее всего, будет следующим. Он будет продолжать делать это до тех пор, пока не сформирует ряд предложений или абзацев. Но он становится все более изощренным, до такой степени, что вывод может быть невероятно убедительным.

Вопросы о планах Apple в области искусственного интеллекта

Как только ChatGPT и Bard попали в заголовки, люди начали задавать острые вопросы о планах Apple в области искусственного интеллекта и предполагать, что компания осталась позади.

Я высказал свое мнение о том, что Apple, вероятно, будет осторожно использовать эту технологию, чтобы сделать Siri умнее, по двум причинам.

Во-первых, фирменный подход Apple почти ко всем новым технологиям: поживем-увидим. Компания редко пытается заблаговременно вывести на рынок какую-либо новую технологию. Вместо этого он наблюдает за тем, что делают другие, а затем пытается понять, как сделать это лучше.

Но есть и более конкретная вторая причина. Такие системы, как ChatGPT, умеют казаться умными. Они пишут очень убедительно, потому что были обучены миллионам документов, написанных людьми, и, по сути, они свободно заимствуют все, что видели, чтобы воспроизвести все, от конкретных фраз до структур документов.

Но они также получают все свои кажущиеся знания из тех же миллионов источников. Из них они понятия не имеют, как отличить правду от вымысла; аргументированная позиция от предрассудков; статистические доказательства предвзятости; достоверные данные из хлама.

Ощущение этой осторожности было быстро продемонстрировано некоторыми катастрофами чат-ботов Bing и многим другим.

На прошлой неделе Кук отметил, что Apple уже использует ИИ, и не только для Siri.

Руководитель перечислил некоторые достижения Apple в сегменте ИИ, такие как использование технологии для создания таких функций, как обнаружение падения, обнаружение столкновений и ЭКГ Apple Watch. «Эти вещи — не только отличные функции, они спасают жизни людей», — сказал Кук.

Но он также сослался на «проблемы» с техникой.

Даже ведущие эксперты по ИИ не могут прийти к единому мнению о рисках

Даже самые известные пионеры ИИ в мире не могут прийти к согласию относительно характера или серьезности этих проблем.

Более насущная угроза, чем изменение климата

Джеффри Хинтона часто называют «одним из крестных отцов ИИ». Он является ключевой фигурой в разработке нейронных сетей, написал множество статей и получил множество наград за свою работу в этой области.

Он был настолько обеспокоен опасностями текущей работы с ИИ, что оставил свою должность в Google, чтобы иметь возможность свободно говорить о рисках.

Он рассказал агентству Reuters, насколько он обеспокоен.

Искусственный интеллект может представлять «более серьезную» угрозу для человечества, чем изменение климата, заявил в интервью агентству Reuters пионер искусственного интеллекта Джеффри Хинтон. […]

Он добавил: «В условиях изменения климата очень легко порекомендовать, что вам следует делать: просто перестаньте сжигать углерод. Если вы сделаете это, в конце концов все будет хорошо. Для этого вообще не ясно, что вам следует делать».

Однако он не считает, что исследования в области ИИ следует приостанавливать: наоборот, он считает, что для выяснения того, как реагировать на риски, жизненно важно больше работы.

Я нахожусь в лагере тех, кто считает, что это экзистенциальный риск, и он достаточно близок к тому, чтобы прямо сейчас мы должны были очень усердно работать и вкладывать много ресурсов в выяснение того, что мы можем с этим поделать.

ИИ нельзя остановить, но его не следует бояться

Юргена Шмидхубера называют «отцом ИИ» за его работу по обработке естественного языка в нейронных сетях — технологии, лежащей в основе Siri и Google Translate. Он также написал огромное количество статей и получил награды за свою работу.

Хотя он и Хинтон во многом расходятся во мнениях, они оба согласны с тем, что развитие ИИ невозможно остановить. Однако Шмидхубер сказал The Guardian, что считает опасность преувеличенной.

У одной страны могут быть совершенно другие цели, чем у другой страны. Так что, конечно, они не собираются участвовать в каком-то моратории. Но тогда я думаю, что вы также не должны останавливаться на этом. Потому что в 95% всех случаев исследования ИИ действительно соответствуют нашему старому девизу — сделать жизнь людей дольше, здоровее и легче.

Многие из опасений были связаны с риском того, что системы ИИ решат начать игнорировать ограничения, наложенные на них людьми. Шмидхубер говорит, что это правда, но это не значит, что они начнут причинять нам вред.

Шмидхубер считает, что искусственный интеллект продвинется до точки, когда он превзойдет человеческий интеллект и перестанет интересоваться людьми, в то время как люди будут продолжать извлекать выгоду и использовать инструменты, разработанные искусственным интеллектом.

Обзор

Потребовался бы более храбрый человек, чем я, чтобы занять позицию в битве между двумя ведущими экспертами в этой области! Но дискуссия кажется несколько академической, учитывая, что оба согласны с тем, что приостановить исследования ИИ невозможно.

Что касается более приземленного вопроса о том, когда и как Apple будет использовать этот тип технологий, чтобы сделать Siri умнее, ясно, что в какой-то момент она должна это сделать, иначе она действительно останется позади. Однако столь же ясно, что это вряд ли произойдет так быстро по причинам, которые я приводил ранее. В частности, устный ответ более опасен, чем ответ, отображаемый на экране, потому что менее вероятно, что люди возьмут на себя труд проверить его фактами.

Siri предназначена для устных ответов на устные вопросы. Если есть что-то более раздражающее, чем Siri, «отвечающая» на вопрос словами «Вот что я нашла в Интернете», так это будет: «Вот длинный ответ, который вы сначала должны выслушать, а затем я отмечу, что он может быть не таким». правильно, и рекомендую вам поискать в Интернете».

Я очень надеюсь, что HomeKit станет одним из приоритетных направлений Apple для генеративного чата.

Пожалуйста, поделитесь своими мыслями в комментариях.

Фото: Maximalfocus/Unsplash