Тайна того, что заставило совет директоров OpenAI пойти на поспешный шаг и уволить генерального директора Сэма Альтмана, возможно, теперь раскрыта. В новом отчете говорится, что ряд исследователей предупредили их о новом прорыве, который, по их словам, может угрожать человечеству – после того, как Альтман, похоже, не проинформировал их.
В письме совету директоров исследователи предположили, что прорыв, получивший название Q* и произносится как Q-Star, может позволить ИИ «превзойти людей в большинстве экономически ценных задач»…
История до сих пор
OpenAI объявила в пятницу, что четыре члена правления компании уволили Альтмана и исключили Брокмана из совета директоров. Были названы лишь самые расплывчатые причины, а именно то, что Альтман якобы «не всегда был откровенен в общении с советом директоров».
Мир технологий поддержал Альтмана, и крупные инвесторы OpenAI попытались восстановить его на работе. Переговоры между советом директоров и высшим руководством проводились, но они не увенчались успехом.
Microsoft предложила работу Альтману, Брокману и всем остальным из команды OpenAI, кто хотел к ним присоединиться. Затем почти весь персонал направил правлению открытое письмо, в котором заявил, что уйдет в отставку, если Альтман не будет восстановлен в должности и правление не будет уволено.
Первоначально OpenAI заявила, что технический директор Мира Мурати будет исполнять обязанности временного генерального директора, но через 48 часов заявила, что ее заменит соучредитель Twitch Эмметт Шир — также в качестве временного сотрудника.
Затем был проведен второй раунд переговоров. В результате всех членов совета директоров, кроме одного, уволили, а Сэма Альтмана восстановили на посту генерального директора – с некоторыми заметными компромиссами.
В чем заключается прорыв Q*?
В настоящее время, если вы попросите ChatGPT решить математические задачи, он по-прежнему будет использовать свой подход с прогнозированием текста на стероидах, заключающийся в составлении ответа с использованием огромной текстовой базы данных и пословном принятии решения, как будет отвечать человек. . Это означает, что он может дать правильный ответ, а может и нет, но в любом случае у него нет никаких математических навыков.
OpenAI, похоже, совершил прорыв в этой области, успешно позволив модели ИИ по-настоящему решать математические задачи, с которыми она раньше не сталкивалась. Говорят, что эта разработка известна как Q*. К сожалению, команда не использовала достаточно умную модель именования, чтобы избежать чего-то похожего на указатель на сноску, поэтому я собираюсь использовать версию Q-Star.
Говорят, что текущие математические способности Q-Star находятся на уровне ученика начальной школы, но ожидается, что эти способности быстро улучшатся.
Угрожает ли модель Q-Star человечеству?
На первый взгляд, система искусственного интеллекта, способная решать уравнения, не похожа на кошмары-антиутопии. Либо люди идут работать на соляные шахты, либо Q-Star определяет, какая из четырех линий параллельна 2y=x+7.
Но в отчете Reuters говорится, что исследование Q-Star может указать путь к Святому Граалю ИИ: общему искусственному интеллекту (AGI).
Некоторые в OpenAI считают, что Q* (произносится как Q-Star) может стать прорывом в поиске стартапом так называемого общего искусственного интеллекта (AGI), сообщил агентству Reuters один из собеседников. OpenAI определяет AGI как автономные системы, которые превосходят людей в большинстве экономически ценных задач.
Учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи, сообщил источник на условиях анонимности, поскольку он не был уполномочен говорить от имени компании. По словам источника, несмотря на то, что Q* выполняет математику только на уровне учеников начальной школы, успешное выполнение таких тестов вселяет в исследователей большой оптимизм в отношении будущего успеха Q*.
AGI — это название системы искусственного интеллекта, достаточно умной, чтобы выполнять любую задачу, которую могут выполнить люди. Если эта цель когда-либо будет достигнута, это фактически приведет к тому, что рабочие места почти всех людей будут заменены ИИ.
Увольнение Альтмана теперь может иметь смысл
Если прорыв Q-Star действительно сделает развитие AGI хоть немного более вероятным, и Альтман не проинформировал совет директоров об этом факте, то это могло бы объяснить комментарий совета директоров о его недостаточной откровенности и предполагаемую срочность увольнения.
Однако стоит отметить, что, насколько нам известно, эту обеспокоенность разделяет относительно небольшое количество исследователей, о чем свидетельствует подавляющее большинство сотрудников ИИ, поддерживающих Альтмана против совета директоров. Умные деньги (или умные люди), похоже, считают, что эта проблема преувеличена.
Тем не менее, имеет смысл сохранить существующую корпоративную структуру, в которой независимый совет директоров – без финансовых вложений в коммерческое крыло ИИ – осуществляет надзор и принимает решения о том, насколько далеко и быстро прибыльная компания сможет должен подтолкнуть.
Или нет …
Однако The Verge цитирует один источник, опровергающий версию Reuters.
Человек, знакомый с ситуацией, рассказал The Verge, что совет директоров так и не получил письма о таком прорыве и что прогресс компании в исследованиях не сыграл роли во внезапном увольнении Альтмана.
Это всего лишь один человек, и статья Reuters предлагает очень правдоподобное объяснение, но кажется, что тайна и драма могут продолжаться еще какое-то время!
