OpenAI будет уведомлять полицию о пользователях, которые намереваются осуществить преступления с помощью ChatGPT

OpenAI заявляет, что ChatGPT будет сообщать полиции о возможных преступниках, делящихся своими планами с ИИ, как сообщается в обзоре новых функций.

Нейронка будет передавать запросы человека команде специалистов, а те уже вручную свяжутся с правоохранителями.

"Когда мы обнаруживаем пользователей, планирующих причинить вред другим, мы направляем их сообщения в специализированные каналы, где их проверяет небольшая команда, прошедшая обучение по нашим политикам использования и уполномоченная принимать меры, включая блокировку учётных записей.

Если специалисты по проверке определят, что дело связано с непосредственной угрозой причинения серьёзного физического вреда другим, мы можем передать его в правоохранительные органы. В настоящее время мы не передаём дела о самоповреждении в правоохранительные органы, чтобы уважать конфиденциальность пользователей, учитывая уникальный конфиденциальный характер общения в ChatGPT", - сообщает компания.