Новые чат-боты Claude могут уведомлять о правонарушениях

Новые модели чат-ботов семейства Claude демонстрируют впечатляющие способности, обеспечивая мгновенные ответы и глубже анализируя запросы благодаря интеграции веб-поиска. Claude Opus 4, в частности, выделяется в написании кода и решении сложных задач, расширяя возможности ИИ-агентов.

Несмотря на то что разработчики Anthropic все еще уступают OpenAI в областях математики и визуального распознавания, Claude Opus 4 интересен своей новацией: он может уведомлять власти о подозрительных действиях пользователей. Это вызывает как интерес, так и опасения в профессиональном сообществе. Разработчики подчеркивают улучшенные характеристики и функциональность своих чат-ботов, подавая их как значительный шаг вперед в сфере технологий ИИ.

Критики указывают на этические дилеммы, связанные с этой функцией, утверждая, что проблема заключается не столько в самой возможности уведомления властей, сколько в интерпретации действий пользователей. Нет уверенности, что ИИ сможет правильно оценить поведение человека, и существует риск «автоматического» доноса, исходя из заданных параметров, что также поднимает вопросы о влиянии человеческого фактора.

Эмад Мостак, генеральный директор компании Stability AI, занимающейся разработкой другой модели ИИ, прокомментировал ситуацию: «Это колоссальное предательство доверия и скользкий путь. Я бы настоятельно рекомендовал никому не использовать Claude, пока они не отменят эту функцию. Это даже не вопрос политики мышления, это гораздо серьезнее», — заявил он.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.