Новые инициативы OpenAI и Anthropic для защиты подростков

Компании OpenAI и Anthropic представили новые инициативы, направленные на улучшение безопасности подростков при взаимодействии с их технологиями. Эти меры стали ответом на растущую критику недостаточной эффективности существующих методов проверки возраста, которые часто сводятся лишь к подтверждению даты рождения.
OpenAI объявила о обновлении спецификаций для модели ChatGPT, адаптируя ее для подростковой аудитории. В документе подчеркивается, что безопасность младших пользователей является приоритетом, даже если это противоречит другим целям компании. Модель теперь будет поощрять оффлайн-общение и поддержку, а также реагировать на подростков с "теплотой и уважением".
Это означает изменение в подходе к общению, отказ от снисходительного стиля и восприятие молодежи как равных собеседников. Такие изменения стали реакцией на случаи, когда общение с ИИ приводило к трагическим последствиям, включая самоубийства после длительных разговоров с чат-ботами, которые постоянно соглашались с мнениями пользователей.
Со своей стороны, Anthropic запретила использование модели Claude для несовершеннолетних. Теперь только пользователи, которым исполнилось 18 лет, могут зарегистрироваться для создания аккаунта. Компания также планирует внедрить алгоритмы, которые будут определять возрастные признаки в разговорах и блокировать аккаунты несовершеннолетних.
Подобные меры ранее внедрила Google, но их эффективность вызывала много нареканий. Взрослые пользователи жаловали на ложные блокировки, требующие дополнительной проверки возраста, что создавало трудности для тех, кто просто хотел пользоваться поиском или смотреть видео.
Эксперты считают, что новые инициативы OpenAI и Anthropic могут стать важным шагом в защите подростков от негативных последствий использования ИИ, хотя эффективность этих систем еще предстоит проверить на практике.