Уряди ризикують повторити помилки, зроблені на зорі ядерної ери, якщо чекатимуть із розробкою законів, що регулюють штучний інтелект, попередила міністр закордонних справ Великої Британії Іветт Купер.
У статті, опублікованій у понеділок, Купер зазначила, що ШІ пропонує проривні рішення, але також створює нові ризики, оскільки технологія стає все потужнішою та більш доступною.
«Минулого місяця в Шеньчжені, Китай, я бачила надзвичайні перспективи ШІ та робототехніки, що використовуються для порятунку життів у медицині», — написала Купер. «Але ті ж технології також тривожним чином змінюють майбутнє війни, злочинності та соціальної згуртованості».
Купер заявила, що управління ризиками, які створює ШІ, може стати «найбільшим викликом безпеці наступного десятиліття», і наголосила, що урядам потрібні міжнародні угоди щодо передових технологій до того, як криза змусить діяти.
Вона порівняла нинішню гонку за розробкою систем ШІ з ранньою гонкою ядерних озброєнь, зазначивши, що глобальні угоди про безпеку з'явилися лише після того, як країни стали свідками руйнувань, спричинених атомною зброєю.
«Щодо ядерної зброї, міжнародна угода з’явилася лише після того, як світ побачив жахливу силу нової технології в Хіросімі», — написала Купер. «Ми не можемо дозволити собі чекати еквівалента Хіросіми у сфері ШІ, перш ніж діяти».
Купер закликала Велику Британію використати свій дипломатичний вплив для об'єднання Сполучених Штатів, Китаю та інших провідних країн у сфері ШІ для встановлення спільних принципів та стандартів безпеки, вказавши на Саміт з безпеки ШІ 2023 року в Блетчлі-Парку, де світові лідери з 29 країн та Європейського Союзу зустрілися, щоб обговорити зростаючі ризики ШІ. Купер назвала це прикладом здатності Великої Британії «згуртувати світ щодо безпеки ШІ».
Попередження Купер прозвучало після місяців зростаючих занепокоєнь щодо того, як уряди повинні наглядати за все більш потужними системами ШІ.
У травні Інститут безпеки ШІ Великої Британії попередив про швидке зростання можливостей ШІ у сфері кібербезпеки після того, як GPT-5.5 від OpenAI стала другою моделлю, яка здійснила симульовану кібератаку без участі людини, слідом за Claude Mythos Preview від Anthropic.
Через кілька днів Міжнародний валютний фонд попередив, що ШІ може «посилити» кібератаки на глобальну фінансову систему, знижуючи рівень навичок, необхідних для використання вразливостей, закликаючи політиків розглядати кібербезпеку як питання фінансової стабільності, а не суто технічну проблему.
У червні президент Дональд Трамп підписав указ, що створює добровільну рамкову програму для перевірки передових моделей ШІ перед їх випуском, розширюючи програми кібербезпеки ШІ та доручаючи агентствам оцінювати потенційні ризики для національної безпеки від передових моделей ШІ.
Того ж місяця заклики до суворіших правил пролунали й з боку індустрії ШІ: генеральний директор Anthropic Даріо Амодей стверджував, що вимог прозорості вже недостатньо, і закликав до обов'язкового стороннього тестування передових моделей. За цією вимогою послідувало розпорядження уряду США до Anthropic обмежити доступ до Claude Fable 5 та Mythos 5 через занепокоєння національною безпекою, перш ніж скасувати це розпорядження у липні.
