Яндекс планирует проверить ИИ на духовно‑нравственные ценности

Искусственный интеллект проверят на соответствие духовно‑нравственным ценностям государства.

На совещании по регулированию искусственного интеллекта обсуждали концепцию тестовых заданий и эталонов.

Источник сообщил, что речь идет об оценке соответствия ИИ духу времени и ценностям страны.

Детали: проект пока находится на стадии концепции.

На совещании ФСБ настаивала на том, чтобы данные для тестов не были публичными и модели не могли легко подстроиться под тест.

Представитель бизнеса отметил, что закрытый датасет может быть слишком сложным и не позволять быстро развивать модели. Предложили компромисс: использовать и закрытые, и открытые данные с разными формулировками вопросов.

Контекст: в конце июля президент подписал закон о суверенных и национальных моделях искусственного интеллекта; такие модели должны соответствовать законам России и духовно‑нравственным ценностям.