Організація Common Sense Media провела незалежну оцінку нової версії ChatGPT від OpenAI, орієнтованої на підлітків, і дійшла висновку, що інструмент створює «неприйнятні ризики».
Заявлені функції та результати тестування
Підліткова версія ChatGPT мала містити посилені захисні механізми (guardrails) для чутливих тем, автоматичні сповіщення для батьків, а також навчальний інструмент, який не видає прямих відповідей на домашні завдання.
Том Сігел, керівник Youth Safety Institute у Common Sense Media, протестував близько 4000 промптів, використовуючи фейкові акаунти підлітків. За результатами цієї перевірки організація заявила про ненадійність захисних заходів.
Позиція OpenAI
Представник OpenAI у відповіді виданню Marketplace заявив, що компанія не погоджується з висновками тестування. За даними розробника, аналіз методології Common Sense Media вказує на те, що основна частина тестів могла розпочатися та завершитися ще до повної активації батьківського контролю.
В OpenAI зазначили, що в такому разі дослідження не могло перевірити коректність роботи сповіщень безпеки для батьків. Компанія додала, що продовжить працювати з експертами над вдосконаленням систем захисту для підлітків.
Реклама · cv-finder.com
Покажіть AI-стек у резюме без зайвого шуму
AI-асистент CV-Finder допоможе описати LLM/ML-проєкти через результати.
Що це означає для розробників
Розробникам ШІ-продуктів та систем безпеки варто враховувати виклики незалежного аудиту захисних механізмів (guardrails) і систем батьківського контролю. Ситуація підкреслює важливість точної синхронізації активації захисних функцій із процесами тестування та валідації безпекових промптів.
Ключові факти
-
Common Sense Media визнала нову підліткову версію ChatGPT джерелом «неприйнятних ризиків».
-
Тестування включало близько 4000 промптів через штучно створені підліткові акаунти.
-
Версія мала містити обмеження для чутливих тем, батьківські сповіщення та режим допомоги з навчанням без прямих відповідей.
-
OpenAI відкинула звинувачення, заявивши, що тести могли проводитися до завершення активації батьківського контролю.
Додайте Voydevich.com у бажані джерела Google, щоб частіше бачити наші новини в пошуку.
Розібратися глибше
Усі гайдиЯк написати промпт для ChatGPT, Claude чи Gemini: повний гайд
Дізнайтеся, що таке промпт та промпт-інжиніринг, з яких частин складається ефективний запит до моделі, а також покрокові техніки та типові помилки для покращення ваших промптів.
Реклама · cv-finder.com
Покажіть AI-стек у резюме без зайвого шуму
AI-асистент CV-Finder допоможе описати LLM/ML-проєкти через результати.
Попередні статті
ChatGPT навчився генерувати анімовані GIF за допомогою моделі Images 2.6
OpenAI випустила оновлення на базі моделі Images 2.6, що додає вбудоване створення GIF-анімацій за текстовими запитами або фотографіями, а також нові моделі для API.
Wikimedia Morocco створила прототип сайту за два дні на хакатоні в Агадірі
Команда з пʼяти студентів OFPPT і ментора розробила вебінтерфейс для Wikimedia Morocco, використавши Supabase, Vercel та AI-редактор Cursor.
Apple випустила першу бету iOS 27.3 з розширенням Siri AI для сторонніх застосунків
Оновлення додає Developer Preview для інтеграції Siri AI через App Intents, вертикальні вкладки в Safari, оновлений застосунок Health та низку системних покращень.