Значок Siri в центре обработки данных
Apple анонсировала новые языковые модели ИИ на WWDC. Эти модели работают как локально на устройствах Apple, так и на собственных серверах Apple на базе Apple Silicon.
Искусственный интеллект (ИИ) опирается на языковые модели, которые предоставляют входные знания для обучения ИИ выдавать результаты по подсказкам (запросам).
Используя языковые модели, компьютеры можно обучить конкретным предметам, чтобы они могли выступать в качестве экспертов в определенной области.
Согласование ИИ относится к процессу проектирования и внедрения систем ИИ таким образом, чтобы они соответствовали человеческим целям, ценностям и желаемым результатам. Другими словами, согласование призвано удерживать ИИ на задании и не становясь опасным, отклоняясь от своей первоначальной цели.
На WWDC 2024 Apple анонсировала Apple Intelligence — собственный ИИ Apple, который будет предоставлять как ИИ на устройстве, так и на сервере. Используя новые модели в Apple Intelligence, ИИ Apple станет более целенаправленным, быстрым и точным.
Модели базового языка
Apple называет свои общие генеративные модели ИИ моделями фундаментального языка. Эти модели являются Большими языковыми моделями (LLM), которые используют до 3 миллиардов параметров и предназначены для базового генеративного ИИ, который большинство пользователей, возможно, захотят использовать.
Модели фонда Apple.
Apple называет эти две модели AFM-on-device и AFM-on-server соответственно.
Apple также имеет другие модели общего назначения, встроенные в Apple Intelligence. Эти модели могут работать как на устройстве, так и на серверах Apple.
Apple предоставляет довольно подробную белую книгу на сорок семь страниц о том, как работают ее базовые языковые модели. С технической точки зрения, базовые модели Apple используют базовую линию методов ИИ, которые включают:
Архитектура преобразователя Матрица встраивания ввода-вывода Предварительная нормализация Нормализация ключа запроса Групповое внимание к запросу Активация SwiGLU Позиционные встраивания RoPE Тонкая настройка Регулировки и ввод пользователя
Модели фонда Apple.
Apple Intelligence также использует автоматизированный веб-краулер AppleBot. Сайты могут сообщить AppleBot не использовать их контент, отказавшись от этого в своих файлах robots.txt.
Что касается ИИ-кода, Apple Intelligence также обучается на основе программного обеспечения с открытым исходным кодом, размещенного на GitHub, которое он изучает и сжимает, автоматически удаляя дубликаты.
В техническом документе Apple подробно описывается работа моделей и используемые методы обучения, включая некоторые сложные математические выкладки в конце.
Частные облачные вычисления
Apple Private Cloud Compute (PCC) — это удаленная служба искусственного интеллекта, которая использует все вышеперечисленные модели, а также имеет доступ к дополнительным моделям для расширенного интеллекта.
Согласно этой записи в блоге, описывающей PCC, Apple преследует несколько целей при использовании PCC, в том числе скорость, точность, конфиденциальность и надежность сайта.
PCC также использует те же технологии Secure Enclave и Secure Boot, что и потребительские устройства Apple, чтобы гарантировать невозможность подделки операционной системы и данных.
Как и многие другие предложения ИИ от технологических компаний, PCC обеспечивает удаленное выполнение подсказок ИИ, но с более высокой производительностью.
Apple суммирует свои основные модели следующим образом:
«Наши модели были созданы с целью помочь пользователям выполнять повседневные действия с использованием продуктов Apple, и разрабатывались ответственно на каждом этапе и в соответствии с основными ценностями Apple. Мы с нетерпением ждем возможности вскоре поделиться дополнительной информацией о нашем более широком семействе генеративных моделей, включая модели языка, диффузии и кодирования».
Также ознакомьтесь с нашими статьями iOS 17.6 и более поздние версии появились вслед за выпуском бета-версии Apple Intelligence, а также Apple призналась в использовании оборудования Google Tensor для обучения Apple Intelligence.
Apple Intelligence обещает предоставить пользователям iOS и Mac более быстрый, оптимизированный ИИ на устройствах и в облаке. Нам придется подождать и посмотреть, как это сработает с предстоящим выпуском iOS 18 и следующей итерацией macOS.
