Разработчики ввели строгие ограничения для ChatGPT: запрет на медицинские и юридические консультации
Компания OpenAI существенно ужесточила правила использования нейросети ChatGPT, полностью запретив модели давать советы в области медицины и юриспруденции. Согласно обновленной политике, искусственный интеллект теперь может предоставлять только общую справочную информацию, настоятельно рекомендуя пользователям обращаться к профильным специалистам для решения личных вопросов.
Конкретные ограничения включают запрет на анализ медицинских изображений (рентген, МРТ, фотографии кожных покровов), прекращение генерации юридических документов (договоров, исковых заявлений), отказ от правовых консультаций и интерпретации законодательства.
Эти меры призваны минимизировать правовые риски и предотвратить потенциально опасные ошибки в сферах, где неверный совет может иметь серьезные последствия.
Пользователи отреагировали на нововведения неоднозначно. Часть аудитории поддержала решение, отметив, что использование ИИ для диагностики или юридических вопросов всегда было сопряжено с рисками. Другие выразили сожаление.
Параллельно OpenAI анонсировала новые функции родительского контроля в ChatGPT. Родители теперь могут связывать свои аккаунты с аккаунтами подростков, ограничивать отдельные функции (память модели, историю диалогов), получать уведомления при обнаружении у ребенка признаков острого эмоционального кризиса.
Разработка системы мониторинга психологического состояния пользователей стала ответом на трагический инцидент в США, где 16-летний подросток использовал чат-бот в качестве психологической поддержки перед совершением суицида. Эти меры демонстрируют растущее внимание компании к вопросам цифровой безопасности и этики искусственного интеллекта.
Наш опрос на эту тему в нашем тг-аккаунте.