OpenAI внесла изменения в политику обучения моделей искусственного интеллекта, чтобы обеспечить более нейтральный подход к спорным темам. Теперь ChatGPT может обсуждать «запрещенные» ранее темы.
OpenAI внесла изменения в
политику обучения моделей искусственного интеллекта, чтобы обеспечить более
нейтральный подход к спорным темам. Теперь ChatGPT может обсуждать «запрещенные»
ранее вопросы, пишет TechCrunch.
Документ Model Spec,
который определяет базовые принципы обучения моделей ИИ, обновили. В OpenAI
заявили, что ключевое изменение — это стремление к большей интеллектуальной
свободе при обсуждении сложных и неоднозначных тем.
Раньше ИИ отказывался от
ответа на спорные вопросы или предлагал «социально одобряемую позицию». Теперь нейросеть
будет выдвигать разные точки зрения.
В OpenAI считают, что ИИ-ассистент
должен оставаться нейтральным даже в вопросах, которые пользователям могут
показаться неприемлемыми. При этом ограничения для нейросетей все же
сохраняются: ChatGPT по-прежнему будет отказываться поддерживать ложные
утверждения или отвечать на нежелательные вопросы (например, генерация текстов
порнографического характера).
Эксперты отмечают, что изменения
в OpenAI происходят, чтобы наладить отношения с администрацией Дональда Трампа,
которая ранее критиковала компанию за цензуру. Один из конфликтов возник, когда
ChatGPT отказался написать стихотворение в поддержку избирательной кампании
Трампа, но сделал это для Джо Байдена.