tron g>Den brittiska regeringen har tillkännagett planer på att öppna det första utomeuropeiska kontoret för sitt AI Safety Institute i USA i sommar. tron g> tron g> Läs också: tron g> Det brittiska och amerikanska AI-säkerhetsavtalets roll i teknisk utveckling I ett uttalande som publicerades på måndagen sa Storbritanniens vetenskaps- och tekniksekreterare Michelle Donelan att det nya amerikanska kontoret kommer att ligga i San Francisco. Staden hyser några av de största AI-företagen, inklusive OpenAI, Anthropic och Inflection AI. Storbritannien vill stärka partnerskapet med USA om AI-säkerhet Det USA-baserade kontoret kommer att försöka rekrytera ett team av teknisk personal som leds av en forskningschef när det börjar arbeta senare i år. Institutets huvudkontor i London har för närvarande ett team på över 30 teknisk personal. Den tekniska sekreteraren sa att expansionen av institutet representerar brittiskt ledarskap inom AI och kommer att etablera ett nära samarbete med den amerikanska regeringen. Det är ett avgörande ögonblick i Storbritanniens förmåga att studera både riskerna och potentialen med AI från en global lins, vilket stärker vårt partnerskap med USA och banar väg för andra länder att utnyttja vår expertis när vi fortsätter att leda världen på AI säkerhet. Michelle Donelan, Storbritanniens vetenskaps- och tekniksekreterare. Donelan säger att institutet har vuxit från "styrka till styrka" Den brittiska regeringen introducerade AI Safety Institute i november 2023. Den sa att målet var att "minimera överraskningar för Storbritannien och mänskligheten från snabba och oväntade framsteg inom AI." tron g>Läs även: tron g> Storbritanniens regering tillkännager etableringen av AI Safety Institute Institutet fokuserar i första hand på att utvärdera "frontier" AI-system utifrån nationell säkerhet. Genom denna åtgärd sa den brittiska regeringen att den kommer att kunna utveckla effektiva policy- och regulatoriska svar på AI-applikationer som distribueras inom dess jurisdiktion. Sedan statsministern och jag grundade AI Safety Institute har det vuxit från klarhet till klarhet och på drygt ett år. Michelle Donelan, Storbritanniens vetenskaps- och tekniksekreterare. Institutet publicerar resultatet av sina modelltester Det brittiska AI Safety Institute är enligt uppgift den första regeringsstödda organisationen att publicera resultat från sina AI-modellsäkerhetstester. Institutet testade fem allmänt tillgängliga stora språkmodeller, även om det inte anger namnen. AI-säkerhet är fortfarande ett mycket ungt och framväxande område. […] Vår ambition är att fortsätta tänja på gränsen för detta område genom att utveckla toppmoderna utvärderingar, med tonvikt på nationella säkerhetsrelaterade risker. Ian Hogarth, ordförande i Storbritanniens AI Safety Institute. Det sa att flera modeller slutförde sina cybersäkerhetsutmaningar. Men de visade sig alla vara mycket sårbara för grundläggande "jailbreaks". Vissa modeller gav skadliga resultat även när det inte fanns några avsiktliga försök att kringgå skyddsåtgärder. Kryptopolitisk rapportering av Ibiam Wayas
↧