USA forhandler med kunstig intelligens-firma om adgang til avanceret AI-model

Den amerikanske regering og teknologivirksomheden Anthropic er gået i forhandlinger om adgang til en potent kunstig intelligens-model. Ifølge Berlingske drejer det sig om Claude Mythos Preview, som betragtes som særligt følsom inden for AI-udvikling.

Forhandlingerne tegner et billede af, hvordan den nye amerikanske administration håndterer spørgsmålet om kontrol med avanceret teknologi. Det kommende møde mellem regering og virksomhed skal handle om, under hvilke betingelser Claude Mythos Preview kan stilles til rådighed for amerikanske myndigheder.

Bekymringer omkring sikkerhed

Experts advarer om, at AI-modeller af denne type kan medføre alvorlige risici, hvis de kommer i urigtige hænder. Ifølge Berlingske har regeringen udtrykt interesse i at sikre, at teknologien ikke bliver misbrugt til farlige eller uønskede formål.

Antropic, som udvikler Claude-modellerne, står derfor over for at balancere mellem åbenhed og sikkerhed. Virksomheden skal afgøre, hvad den kan dele med myndighederne, uden at kompromittere sin egenudviklede teknologi.

Del af bredere AI-strategi

Forhandlingerne indgår i en bredere amerik strategi omkring kunstig intelligens og teknologisikkerhed. Det amerikanske styre søger at fastholde teknologisk lederskab samtidig med, at man søger at styre potentielle risici forbundet med udviklingen.

Hvorvidt forhandlingerne ender med en aftale, og på hvilke vilkår, ventes at få betydning for, hvordan kunstig intelligens reguleres og kontrolleres i årene fremover.