Компания также разрабатывает технологию для более точного определения возраста пользователя. Обновления появились после того, как Федеральная торговая комиссия (FTC) США начала расследование в отношении нескольких технологических компаний, включая OpenAI, по поводу негативного влияния чат-ботов с искусственным интеллектом на детей и подростков
Компания OpenAI анонсировала запуск специальной версии ChatGPT с родительским контролем для пользователей младше 18 лет. Стартап, занимающийся искусственным интеллектом (ИИ), работает над усилением мер безопасности для детей и подростков, сообщает CNBC со ссылкой на представителей OpenAI. Спецверсия будет запущена до конца сентября, сообщили в компании.
«Мы ставим безопасность выше конфиденциальности и свободы подростков. Это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в серьезной защите», — написал генеральный директор OpenAI Сэм Альтман (состояние, по данным Forbes Real-Time, — $2,2 млрд) в посте в корпоративном блоге. В августе OpenAI заявила, что выпустит функцию родительского контроля, которая поможет родителям понять, как их дети используют ChatGPT, и скорректировать этот процесс.
OpenAI в своем анонсе 16 сентября поделилась более подробной информацией об этой функции и сообщила, что она будет доступна в конце сентября. Новые функции контроля от компании позволят родителям связать свою учетную запись ChatGPT с учетной записью подростка по электронной почте; установить часы, в которые подросток не сможет пользоваться чат-ботом; выбрать функции, которые нужно отключить; настроить реакцию чат-бота и получать уведомления, если подросток испытывает сильный стресс. ChatGPT предназначен для пользователей в возрасте от 13 лет, уточнили в компании.
Если OpenAI определит, что пользователь несовершеннолетний, то автоматически перенаправит его в версию ChatGPT, соответствующую его возрасту. Она блокирует графический и сексуальный контент, а в редких случаях может привлечь правоохранительные органы. Компания также разрабатывает технологию, которая позволит точнее определять возраст пользователя. В случае неопределенности или неполноты информации о возрасте ChatGPT по умолчанию будет ориентироваться на пользователей младше 18 лет.
«Это непростые решения, но после консультаций с экспертами мы пришли к выводу, что так будет лучше, и хотим открыто заявить о своих намерениях», — написал Альтман. Обновления системы безопасности появились после того, как Федеральная торговая комиссия (FTC) CША начала расследование в отношении нескольких технологических компаний. Комиссия заявила, что изучает, какие шаги предприняли ИИ-компании, такие как OpenAI, для «оценки безопасности чат-ботов, выступающих в роли компаньонов». В августе после того, как семья обвинила чат-бот в смерти их сына-подростка в результате самоубийства, OpenAI рассказала о том, как ChatGPT будет справляться с «деликатными ситуациями».
