OpenAI приняла решение отложить на неопределённый срок запуск эротического режима для ChatGPT (внутри компании он носил кодовое название Citron mode). По информации Financial Times, причиной стали серьёзные опасения сотрудников и инвесторов относительно влияния сексуализированного ИИ на общество, а также риски доступа к такому контенту несовершеннолетних.
Компания заявила, что не будет принимать окончательное продуктовое решение до получения результатов долгосрочных исследований воздействия откровенных разговоров с ИИ и эмоциональной привязанности пользователей к искусственному интеллекту. OpenAI прямо признала, что у неё пока нет достаточных эмпирических данных по этому вопросу.
Инвесторов, помимо этических аспектов, беспокоили высокие репутационные риски при относительно небольшом потенциале монетизации такого режима. Часть сотрудников считала, что создание ИИ, который поощряет романтические и интимные отношения, напрямую противоречит миссии компании. Один из бывших топ-менеджеров OpenAI так объяснил позицию ушедших коллег: «ИИ не должен заменять друзей и семью — людям нужны настоящие человеческие связи».
Технические сложности
Помимо этических споров, разработчики столкнулись с серьёзными техническими трудностями. Модели, которые на протяжении нескольких лет специально обучали избегать любого сексуального контента, оказалось крайне сложно «переучить» на генерацию откровенных диалогов.
Дополнительной проблемой стала очистка обучающих данных — из них требовалось полностью исключить любой незаконный контент. Кроме того, существующая система верификации возраста (внедрённая OpenAI после нескольких судебных исков от родителей подростков) пока работает недостаточно точно и допускает ошибки более чем в 10 % случаев.
Смена приоритетов
Заморозка adult-режима стала частью более широкого стратегического разворота OpenAI. Недавно компания объявила о закрытии видеогенератора Sora и собственного социального приложения. Руководство теперь рассматривает подобные инициативы как «побочные квесты» и перенаправляет все ресурсы на развитие действительно полезных инструментов.
В ближайшее время OpenAI планирует объединить несколько ключевых продуктов — ассистента для программирования Codex, браузер Atlas и основной ChatGPT — в единое «суперприложение», которое станет центральным хабом для продуктивной работы с ИИ.
Таким образом, вместо спорного развлекательного функционала компания делает ставку на создание мощного многофункционального инструмента, ориентированного на практическую пользу.
