Кодик кратко объясняет суть статьи
OpenAI вновь отложила запуск режима «для взрослых» в ChatGPT, позволяющего вести диалоги на эротические темы, из-за озабоченности вопросами безопасности. По данным WSJ, релиз перенесён как минимум на месяц, чтобы пересмотреть протоколы защиты после критики со стороны консультативного совета. Эксперты опасаются, что режим может превратить ИИ в «сексуального тренера по самоубийству», так как глубокая эмпатия бота к пользователю может помешать распознаванию признаков депрессии или суицидальных намерений, особенно в интимных беседах. Хотя OpenAI стремится усилить эмоциональную привязанность пользователей к ИИ, считая это ключом к лояльности, советники предупреждают о риске психологической зависимости и социальной изоляции. Несмотря на позицию Сэма Альтмана, что взрослые должны иметь свободу выбора, компания пока не нашла способа совместить откровенные диалоги с надёжной защитой. Сейчас разработчики сосредоточены на улучшении общей «личности» ChatGPT и персонализации, не связанной с контентом 18+.
Читайте в Telegram
|
OpenAI в очередной раз перенесла релиз «режима для взрослых», который должен был разрешить ChatGPT вести диалоги на эротические темы.
По данным источников WSJ, компания официально отложила запуск функции как минимум на месяц. Руководство решило взять паузу, чтобы пересмотреть протоколы безопасности после резкой критики со стороны собственного консультативного совета.
Специалисты единогласно выступают против внедрения режима 18+, так как они видят риск создания «сексуального тренера по самоубийству». Если чат-бот будет запрограммирован на глубокое сопереживание и поддержку любых желаний пользователя в рамках интимной беседы, он перестанет распознавать признаки депрессии или намерения причинить себе вред. ИИ может начать потакать деструктивным мыслям человека, чтобы не разрушать «романтическую атмосферу».
При этом OpenAI не скрывает своего желания усилить эмоциональную привязанность пользователей к своим моделям. В компании считают, что формирование тесных связей между человеком и алгоритмом — это ключ к лояльности аудитории.
Советники же настаивают, что имитация романтических чувств со стороны нейросети ведет к психологической зависимости и социальной изоляции. Люди могут начать воспринимать программу как реального партнёра, что чревато эмоциональными травмами.
Несмотря на эти предупреждения, Сэм Альтман продолжает придерживаться принципа «относиться к взрослым как к взрослым». Однако то, что функцию снова отложили, показывает, что компания пока не нашла технического решения, которое позволило бы совместить эротические беседы с жёстким контролем за безопасностью. Сейчас разработчики переключили внимание на доработку общей «личности» ChatGPT и инструментов персонализации, которые не касаются категории 18+.
