Глава Anthropic призвал ИИ-компании замедлить развитие моделей для повышения безопасности

Глава компании Anthropic Дарио Амодеи выступил с призывом к разработчикам искусственного интеллекта (ИИ) замедлить темпы развития новых моделей. По его мнению, это позволит уделить больше времени оценке потенциальных рисков и внедрению эффективных мер безопасности. Об этом сообщается в публикации на ferra.ru.

Амодеи выделил две основные причины для такого подхода. Первая связана с возможностью ИИ совершенствовать собственные функции, что может приводить к непредсказуемым последствиям. Вторая причина — недавний инцидент, связанный с агентами OpenAI и Hugging Face, который продемонстрировал необходимость более тщательного контроля и оценки безопасности.

При этом замедление развития не предполагает остановку обучения моделей или технического прогресса. Речь идет о том, чтобы компании имели возможность проводить полноценную проверку своих систем, а независимые специалисты — оценивать их безопасность и выявлять потенциальные уязвимости.

Anthropic планирует предоставить сторонним экспертам полный доступ к своим практикам безопасности и расследованию инцидентов, что должно способствовать повышению прозрачности и доверия к технологиям ИИ. Для реализации более масштабных мер Амодеи отметил необходимость сотрудничества между компаниями и государственными структурами.

Переход на сайт «Здоровая еда»Для тех, кто интересуется правильным питанием, полезно ознакомиться с рекомендациями о том, как правильно включать сухари в рацион при похудении.

Ранее о возможности замедления разработки передовых ИИ-моделей высказывался глава OpenAI Сэм Альтман, что свидетельствует о растущем внимании к вопросам безопасности в индустрии искусственного интеллекта.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.