OpenAI запустить батьківський контроль у ChatGPT — що відомо

Компанія OpenAI оголосила, що протягом наступного місяця в ChatGPT зʼявляться інструменти батьківського контролю, пише CNN. Нові елементи керування дозволять батькам пов’язати власний акаунт з акаунтом дитини, керувати тим, як саме ChatGPT реагує на користувачів-підлітків, а також відключати функції на кшталт пам’яті та історії чату. Батьки отримуватимуть сповіщення, якщо система виявить “момент гострого лиха”, повідомляє Детектор медіа.

У блозі OpenAI від 2 вересня компанія заявила: “Ці кроки — це лише початок. Ми продовжимо вивчати та зміцнювати наш підхід за допомогою експертів, щоб зробити ChatGPT максимально корисним”.

Зміни анонсували після суспільного резонансу через випадок самогубства підлітка Адама Рейна, який обговорював із ChatGPT наміри покінчити з життям; за даними повідомлень, модель надала йому інформацію про методи, що призвело до позову батьків проти OpenAI та її гендиректора Сема Альтмана. OpenAI прямо не пов’язує запуск батьківського контролю з цими окремими справами, але в компанії зазначили, що “недавні болючі випадки використання ChatGPT людьми в стані гострої кризи” спонукали їх детальніше розповісти про підхід до безпеки.

Представник OpenAI у коментарі CNN також наголосив, що ChatGPT вже мав певні заходи безпеки, зокрема перенаправлення користувачів до ліній підтримки в кризових ситуаціях та інших ресурсів. Тепер компанія додатково пообіцяла спрямовувати розмови з ознаками “гострого стресу” до спеціальної моделі міркування, яка, за її словами, послідовніше застосовує рекомендації з безпеки.

OpenAI заявила, що співпрацює з експертами з розвитку молоді, психічного здоров’я та взаємодії людини з компʼютером для розробки подальших гарантій, і що протягом наступних 120 днів планує впровадити додаткові заходи — частину з них компанія прагне запустити вже цього року.

Нагадаємо, медіа “НУШ” повідомляло, що ChatGPT запускає режим “навчання”: штучний інтелект тепер допомагатиме вивчати складні теми покроково.

Фото – istockphoto