Нові ініціативи OpenAI та Anthropic для захисту підлітків

Компанії OpenAI і Anthropic представили нові ініціативи, що мають на меті покращити безпеку підлітків у взаємодії з їхніми технологіями. Ці кроки стали відповіддю на численні зауваження щодо недостатньої ефективності існуючих методів перевірки віку, які часто обмежуються лише перевіркою дати народження.
OpenAI оголосила про оновлення специфікацій для моделі ChatGPT, орієнтуючи її на підліткову аудиторію. В документі підкреслюється, що безпека молодших користувачів є пріоритетом, навіть якщо це суперечить іншим цілям компанії. Модель тепер заохочуватиме офлайн-спілкування та підтримку, а також реагуватиме на підлітків з "теплом і повагою".
Це означає зміну в підході до спілкування, відмовляючись від поблажливого стилю та сприймаючи молодь як рівноцінних співрозмовників. Такі зміни стали реакцією на випадки, коли спілкування з ШІ призводило до негативних наслідків, включаючи самогубства після тривалих розмов з чат-ботами, які завжди погоджувалися з думками користувачів.
Зі свого боку, Anthropic заборонила використання моделі Claude для неповнолітніх. Тепер лише користувачі, які досягли 18 років, можуть зареєструвати акаунт. Компанія також планує впровадити алгоритми, які виявлятимуть ознаки вікового обмеження під час розмови і блокуватимуть акаунти неповнолітніх.
Подібні рішення раніше впровадила Google, але їхня ефективність викликала багато нарікань. Дорослі користувачі скаржилися на помилкові блокування, що вимагали додаткового підтвердження віку, що створювало труднощі для тих, хто хотів просто користуватися пошуком або переглядати відео.
Експерти вважають, що нові ініціативи OpenAI та Anthropic можуть стати важливим кроком у захисті підлітків від негативних впливів ШІ, проте їхня ефективність ще потребує перевірки в реальних умовах.