Norwegia i Finlandia chcą stworzenia międzynarodowego systemu nadzoru nad rozwojem sztucznej inteligencji. Premier Norwegii Jonas Gahr Støre i prezydent Finlandii Alexander Stubb przedstawili inicjatywę zakładającą m.in. wspólne standardy bezpieczeństwa, niezależne kontrole oraz powołanie instytucji, która mogłaby koordynować działania państw w związku z rozwojem coraz bardziej zaawansowanych systemów AI.
Jak przekazał Støre norweskiemu nadawcy publicznemu VG, inicjatywa jest odpowiedzią na obawy dotyczące rozwoju coraz bardziej zaawansowanych systemów sztucznej inteligencji, wyrażane również przez przedstawicieli firm działających w tej branży.
We wspólnym apelu Norwegii i Finlandii podkreślono, że rozwój sztucznej inteligencji powinien pozostawać pod kontrolą człowieka, a systemy AI powinny być tworzone i wykorzystywane zgodnie z prawem międzynarodowym.
Jednym z elementów propozycji jest zobowiązanie firm zajmujących się AI do opracowania otwartych i możliwych do zweryfikowania protokołów bezpieczeństwa. Zakładają one m.in. obowiązkowe testowanie modeli przed ich wdrożeniem, a także przeprowadzanie niezależnych audytów i ocen.
Inicjatywa obejmuje również propozycje skierowane do rządów i organizacji regionalnych. Miałyby one wspólnie opracowywać standardy, zwiększać przejrzystość oraz stworzyć mechanizmy wspólnego raportowania poważnych incydentów związanych z bezpieczeństwem AI.
Norwegia i Finlandia proponują ponadto, aby państwa należące do ONZ rozpoczęły prace nad utworzeniem międzynarodowej instytucji zajmującej się sztuczną inteligencją. Jej zadaniem byłoby ustalanie standardów, ułatwianie ich weryfikacji oraz umożliwienie państwom współpracy w sytuacji, gdy systemy AI osiągnęłyby określone poziomy możliwości.
Støre porównał proponowaną instytucję do Międzynarodowej Agencji Energii Atomowej (MAEA), która zajmuje się m.in. bezpieczeństwem jądrowym i nierozprzestrzenianiem broni jądrowej.
Inicjatywa pojawia się w czasie rosnących obaw związanych z szybkim rozwojem systemów sztucznej inteligencji oraz doniesieniami o działaniu agentów AI poza kontrolowanymi środowiskami testowymi.
Dyrektor generalny Anthropic Dario Amodei ostrzegał, że rozwój AI może mieć poważne konsekwencje, jeśli nie zostanie spowolniony. Norwescy badacze zajmujący się sztuczną inteligencją prezentują natomiast różne stanowiska dotyczące konkretnych zagrożeń oraz tempa rozwoju tej technologii.
Kancelaria premiera Norwegii podkreśliła, że firmy, rządy i społeczeństwo muszą wspólnie zajmować się zagrożeniami związanymi z AI. Jednocześnie należy zadbać o to, aby różnice między państwami w dostępie do korzyści wynikających z rozwoju sztucznej inteligencji nie pogłębiały się.
