Tek-topper og Trump enige om «moralsk bindende» avtale for KI-regulering

Tirsdag lunsj møttes president Donald Trump med en rekke av verdens mest innflytelsesrike teknologitopper i Det hvite hus. Deltakere inkluderte ledere fra blant annet SpaceXAI, Nvidia, Meta og Anthropic.

Møtet resulterte i en felles erklæring som Trump omtalte som «moralsk bindende». Hovedpunktene i avtalen som ble delt offentlig etter møtet:

• Hvert selskap forplikter seg til intern kontroll over modellkapasiteter.
• Fire lag med kontroll og tilsyn skal implementeres hos de involverte selskapene.
• Interne team får fullmakt til å sikre at kontroll og overvåking fungerer.

Trump sa at administrasjonen vurderer å opprette et tilsynsutvalg med kanskje ti medlemmer som kan føre tilsyn med hele KI-industrien. Han kunngjorde også plan om å utnevne en nasjonal KI-sjef («tsar») innen noen dager. Samtidig gjentok han at han foretrekker selvregulering fremfor stram statlig regulering fordi han mener statlig inngripen kan svekke USAs konkurranseevne i forhold til Kina.

Mark Zuckerberg bekreftet at teknologiselskapene ble enige om å etablere robuste kontrollmekanismer. Han uttalte at kunstig intelligens sannsynligvis vil bli svært gunstig, men at kontroll er nødvendig.

Dario Amodei fra Anthropic advarte om store risikoer ved teknologien. Han har tidligere sagt at selskapet vil senke utviklingstakten om nødvendig for å sikre at nye KI-systemer er trygge. Amodei gjentok at uregulert utvikling kan utgjøre en trussel mot menneskeheten.

Tidligere internasjonal oppmerksomhet

Amodei og andre KI-topper har nylig deltatt i diskusjoner i FNs sikkerhetsråd om risikoen ved avanserte KI-modeller. Det er økt internasjonal interesse for felles kontrollmekanismer og internasjonale initiativ for å regulere de mest avanserte modellene.

• Fire lag med kontroll: Et system der modeller overvåkes på flere nivåer internt hos selskapene.
• Robust intern kontroll: Overvåking av modellkapasiteter og prosedyrer for å stoppe eller varsle om farlig utvikling.
• Myndiggjorte interne team: Team som har autoritet til å sikre at kontrollmekanismer fungerer.

Avtalen peker mot sterkere internbransjestandarder og et nært samarbeid mellom myndigheter og teknologiindustri om tilsyn. Samtidig er det uklart hvor bindende disse forpliktelsene blir i praksis, og hvordan de vil passe sammen med eventuelle nasjonale eller internasjonale forskrifter som kan komme.

Møtet samlet politisk og kommersiell makt rundt et mål om mer ansvarlig KI-utvikling. Selskapene lovet konkrete interne kontrolltiltak. Myndighetene planlegger et tilsynsutvalg og en nasjonal KI-ansvarlig, mens ledende teknologer uttrykte både tro på nytte og advarsler om risiko.