Генеральный директор Google DeepMind предлагает создать в США орган по стандартам для тестирования моделей ИИ перед выпуском

Демис Хассабис, генеральный директор Google DeepMind, предложил создать в США орган по стандартам, который будет проверять самые мощные модели ИИ до их публичного выпуска. Предлагаемые оценки будут сосредоточены на кибербезопасности, биологических угрозах и попытках систем обходить ограничения, вводить пользователей в заблуждение или скрывать свои действия.

Первоначально компании будут добровольно предоставлять модели для оценки не позднее чем за 30 дней до запуска. Если механизм окажется эффективным, Хассабис предлагает сделать проверку обязательной для доступа на рынок в США.