Глава компании Anthropic Дарио Амодеи выступил с призывом к разработчикам искусственного интеллекта (ИИ) замедлить темпы развития новых моделей. По его мнению, это позволит уделить больше времени оценке потенциальных рисков и внедрению эффективных мер безопасности. Об этом сообщается в публикации на ferra.ru.
Амодеи выделил две основные причины для такого подхода. Первая связана с возможностью ИИ совершенствовать собственные функции, что может приводить к непредсказуемым последствиям. Вторая причина — недавний инцидент, связанный с агентами OpenAI и Hugging Face, который продемонстрировал необходимость более тщательного контроля и оценки безопасности.
При этом замедление развития не предполагает остановку обучения моделей или технического прогресса. Речь идет о том, чтобы компании имели возможность проводить полноценную проверку своих систем, а независимые специалисты — оценивать их безопасность и выявлять потенциальные уязвимости.
Anthropic планирует предоставить сторонним экспертам полный доступ к своим практикам безопасности и расследованию инцидентов, что должно способствовать повышению прозрачности и доверия к технологиям ИИ. Для реализации более масштабных мер Амодеи отметил необходимость сотрудничества между компаниями и государственными структурами.
Переход на сайт «Здоровая еда»Для тех, кто интересуется правильным питанием, полезно ознакомиться с рекомендациями о том, как правильно включать сухари в рацион при похудении.
Ранее о возможности замедления разработки передовых ИИ-моделей высказывался глава OpenAI Сэм Альтман, что свидетельствует о растущем внимании к вопросам безопасности в индустрии искусственного интеллекта.





