США і Китай готуються до перших офіційних двосторонніх переговорів, присвячених безпеці передових систем штучного інтелекту. Зустріч попередньо планують на середину вересня.
Серед ключових тем — AI-керовані кібератаки, обмін інформацією про інциденти та механізми самоконтролю найбільших лабораторій.
Кіберризики стали спільною проблемою
Нові агентні AI-системи можуть самостійно користуватися інструментами, писати код, шукати вразливості та виконувати довгі послідовності дій.
Це робить їх корисними для захисту, але одночасно створює ризик масштабування атак. Однією з ідей є обмін сигналами про небезпечні інциденти між лабораторіями.
Спільні правила не скасують технологічної гонки
Вашингтон і Пекін продовжують конкурувати у сфері чипів, моделей, хмарної інфраструктури та талантів.
Якщо переговори відбудуться, вони можуть стати першим кроком до міжнародних протоколів для найпотужніших моделей.
Переговори також можуть зачепити питання тестування найпотужніших моделей до публічного запуску. Якщо країни домовляться хоча б про базові принципи повідомлення про критичні уразливості, це створить прецедент для ширшої міжнародної координації.
Для IT-індустрії результат важливий ще й через різні регуляторні підходи США та Китаю. Спільний мінімальний стандарт безпеки міг би зменшити ризик ситуації, коли лабораторії приховують небезпечні інциденти через страх втратити конкурентну перевагу.
Переговори також можуть зачепити питання тестування найпотужніших моделей до публічного запуску. Якщо країни домовляться хоча б про базові принципи повідомлення про критичні уразливості, це створить прецедент для ширшої міжнародної координації.
Для IT-індустрії результат важливий ще й через різні регуляторні підходи США та Китаю. Спільний мінімальний стандарт безпеки міг би зменшити ризик ситуації, коли лабораторії приховують небезпечні інциденти через страх втратити конкурентну перевагу.
Переговори також можуть зачепити питання тестування найпотужніших моделей до публічного запуску. Якщо країни домовляться хоча б про базові принципи повідомлення про критичні уразливості, це створить прецедент для ширшої міжнародної координації.
Для IT-індустрії результат важливий ще й через різні регуляторні підходи США та Китаю. Спільний мінімальний стандарт безпеки міг би зменшити ризик ситуації, коли лабораторії приховують небезпечні інциденти через страх втратити конкурентну перевагу.