
Новые модели чат-ботов семейства Claude демонстрируют впечатляющие способности, обеспечивая мгновенные ответы и глубже анализируя запросы благодаря интеграции веб-поиска. Claude Opus 4, в частности, выделяется в написании кода и решении сложных задач, расширяя возможности ИИ-агентов.
Несмотря на то что разработчики Anthropic все еще уступают OpenAI в областях математики и визуального распознавания, Claude Opus 4 интересен своей новацией: он может уведомлять власти о подозрительных действиях пользователей. Это вызывает как интерес, так и опасения в профессиональном сообществе. Разработчики подчеркивают улучшенные характеристики и функциональность своих чат-ботов, подавая их как значительный шаг вперед в сфере технологий ИИ.
Критики указывают на этические дилеммы, связанные с этой функцией, утверждая, что проблема заключается не столько в самой возможности уведомления властей, сколько в интерпретации действий пользователей. Нет уверенности, что ИИ сможет правильно оценить поведение человека, и существует риск «автоматического» доноса, исходя из заданных параметров, что также поднимает вопросы о влиянии человеческого фактора.
Эмад Мостак, генеральный директор компании Stability AI, занимающейся разработкой другой модели ИИ, прокомментировал ситуацию: «Это колоссальное предательство доверия и скользкий путь. Я бы настоятельно рекомендовал никому не использовать Claude, пока они не отменят эту функцию. Это даже не вопрос политики мышления, это гораздо серьезнее», — заявил он.





