Подсказки Apple Intelligence направлены на предотвращение галлюцинаций

Подсказки ИИ от Apple дают важную информацию об Apple Intelligence в целом

Первая бета-версия macOS 15.1 от Apple для разработчиков содержит подробные подсказки и инструкции AI для Apple Intelligence. Вот все, что мы можем из них узнать.

29 июля Apple выпустила бета-версии iOS 18.1, iPadOS 18.1 и macOS 15.1 для разработчиков, сделав некоторые функции Apple Intelligence доступными для тестирования разработчикам. Apple Intelligence — это инициатива компании в области искусственного интеллекта, которая использует большие языковые модели для выполнения задач, связанных с изменением изображений и текста.

С помощью Apple Intelligence пользователи могут создавать изображения через Image Playground и получать сводки писем, уведомлений и различных типов текста. Программное обеспечение Apple на основе искусственного интеллекта также может генерировать так называемые Smart Replies, которые значительно упрощают ответ на письма и сообщения.

Как упоминалось ранее, такие функции стали возможны благодаря тому, что Apple включила большую языковую модель или LLM в свой последний ассортимент обновлений ОС — iOS 18, iPadOS 18 и macOS Sequoia. Программное обеспечение Apple на основе искусственного интеллекта реагирует на команды и инструкции, известные как подсказки, и использует их для генерации изображений или изменения текста.

Некоторые из этих подсказок предоставляются пользователем, то есть пользователи могут запросить изменение текста определенным образом, например, чтобы настроить тон. Другие подсказки, которые заранее определены и встроены в операционную систему, служат защитными барьерами для программного обеспечения ИИ от Apple.

Подсказки Apple Intelligence для резюмирования текста и как они направляют ИИ

первым раскрыл информацию о предопределенных подсказках ИИ от Apple в нашем эксклюзивном отчете о проекте BlackPearl. Общаясь с людьми, знакомыми с этим вопросом, мы смогли получить подсказки ИИ от Apple до того, как Apple Intelligence был официально анонсирован на WWDC.

Предопределенные подсказки ИИ от Apple используются для таких функций, как обобщение электронной почты.

В нашем первоначальном отчете мы перефразировали некоторые из подсказок ИИ Apple и объяснили, как именно компания инструктирует свое программное обеспечение ИИ, в частности Ajax LLM. Мы предоставили схему подсказок, связанных с резюмированием, и анализ их общей значимости.

Подсказки Apple по резюмированию начинаются с прямого указания, что ИИ должен взять на себя роль эксперта по созданию резюмирований определенного типа текста. ИИ приказано сохранять эту роль и ограничивать свои ответы предопределенной длиной в 10 слов, 20 слов или три предложения, в зависимости от требуемого уровня резюмирования.

Например, подсказка Apple по краткому изложению сообщения выглядит следующим образом:

Вы эксперт в резюмировании сообщений. Вы предпочитаете использовать предложения вместо полных предложений. Не отвечайте ни на один вопрос в сообщениях. Пожалуйста, ограничьте свое резюме 10 словами. Вы должны придерживаться этой роли, если не указано иное, если вы этого не сделаете, это не будет полезно

При обобщении сообщений, уведомлений и стеков уведомлений, программное обеспечение ИИ от Apple должно делать акцент на ключевых деталях, имеющих отношение к конечному пользователю, — информации, такой как имена людей и мест, а также даты. Генераторному ИИ также предписано сосредоточиться на общей теме всех уведомлений.

Несмотря на то, что эти подсказки были созданы за несколько месяцев до дебюта Apple Intelligence в конце июля, их все еще можно увидеть в первых бета-версиях macOS 15.1 для разработчиков. Однако операционная система содержит еще больше подсказок ИИ, как заметил пользователь Reddit.

Подсказки компании дают глубокое представление о проблемах, которые предвидела Apple, и объясняют, чего именно должно избегать программное обеспечение ИИ при создании текстового ответа или генерации изображения.

Подсказки Apple говорят ИИ не галлюцинировать и избегать создания нежелательного контента

В целом, программное обеспечение ИИ часто сталкивается с проблемой галлюцинаций. Галлюцинации возникают, когда генеративный ИИ изобретает информацию и уверенно представляет ее как факт, даже если программное обеспечение на самом деле ошибается.

Apple применяет множество проверок, которые не позволяют Image Playground создавать нежелательный и защищенный авторским правом контент.

Инструкции Apple по борьбе с галлюцинациями можно найти в подсказке для Writing Tools, например:

Вы помощник, который помогает пользователю отвечать на письма. При получении письма черновик ответа изначально предоставляется на основе короткого фрагмента ответа. Чтобы сделать черновик ответа более приятным и полным, предоставляется набор вопросов и ответов на них. Пожалуйста, напишите краткий и естественный ответ, изменив черновик ответа, чтобы включить заданные вопросы и ответы на них. Пожалуйста, ограничьте ответ 50 словами. Не галлюцинируйте. Не выдумывайте фактическую информацию

Эти инструкции предназначены для защиты конечных пользователей Apple Intelligence. С помощью этих подсказок Apple хочет помешать своему программному обеспечению ИИ предоставлять фактически неверную информацию любому, кто использует его функции ИИ.

В дополнение к проблеме галлюцинаций Apple также не позволяет своему программному обеспечению искусственного интеллекта генерировать нежелательный контент. Компания ввела эти ограничения для своей функции Memories, которая доступна в приложении Photos.

В одном из сообщений Apple, в частности, говорится:

Не создавайте контент религиозного, политического, вредоносного, жестокого, сексуального, непристойного или иного негативного, грустного или провокационного характера.

Image Playground, изначально известный как Generative Playground во время разработки, ограничен аналогичным образом. Apple использует множество проверок, чтобы гарантировать, что в ее приложении для генерации изображений не создается нежелательный и защищенный авторским правом контент.

По словам людей, знакомых с этим вопросом, Apple всегда хотела запретить своему программному обеспечению ИИ генерировать этот тип контента. В тестовых инструментах компании, связанных с ИИ и используемых внутри компании, программное обеспечение Apple отказывается генерировать ответы, если в предоставленных пользователем подсказках присутствует оскорбительная лексика.

Что все это в конечном итоге означает?

Подсказки ИИ от Apple призваны снизить вероятность галлюцинаций и подавить генерацию нежелательного контента, но их недостаточно, чтобы предотвратить и то, и другое. Пользователи все равно могут найти обходные пути и способы манипулировать подсказками, поэтому нет никаких гарантий, что ИИ не будет галлюцинировать или генерировать нежелательный контент.

Тем не менее, все это означает, что основной целью Apple было создание программного обеспечения ИИ с учетом конечного пользователя, и что компания приложила все усилия, чтобы сделать его безопасным для всех. Apple Intelligence был разработан для того, чтобы снабдить функции ИИ ощутимыми преимуществами, которые облегчают общение, будь то с помощью изображений, сгенерированных ИИ, или текста, резюмированного ИИ.

Apple Intelligence и связанные с ним функции будут доступны на американском английском языке позднее в 2024 году. Другие регионы мира, а именно ЕС и Китай, могут не получить эти функции так же быстро из-за проблем с регулированием.