Den h\u00e4r veckan skickade Anthropic in ett svar till National Telecommunications and Information Administration (NTIA) ang\u00e5ende en beg\u00e4ran om synpunkter p\u00e5 AI-ansvarighet. Idag vill vi dela med oss av v\u00e5ra rekommendationer, eftersom de f\u00e5ngar n\u00e5gra av Anthropics k\u00e4rnrekommendationer f\u00f6r AI-policy.<\/p>\n\n\n\n
F\u00f6r n\u00e4rvarande finns det ingen robust och omfattande process f\u00f6r att utv\u00e4rdera dagens avancerade artificiell intelligens (AI)-system, \u00e4n mindre de mer kapabla systemen i framtiden. V\u00e5rt svar presenterar v\u00e5r syn p\u00e5 de processer och infrastruktur som kr\u00e4vs f\u00f6r att s\u00e4kerst\u00e4lla ansvarighet f\u00f6r AI. V\u00e5ra rekommendationer beaktar NTIAs potentiella roll som en samordnande instans som fastst\u00e4ller standarder i samarbete med andra myndigheter som National Institute of Standards and Technology (NIST).<\/p>\n\n\n\n
I v\u00e5ra rekommendationer fokuserar vi p\u00e5 ansvarsfunktioner som \u00e4r l\u00e4mpliga f\u00f6r h\u00f6gkapabla och allm\u00e4nt anv\u00e4ndbara AI-modeller. Specifikt rekommenderar vi f\u00f6ljande:<\/p>\n\n\n\n
Finansiera forskning f\u00f6r att bygga b\u00e4ttre utv\u00e4rderingar<\/strong><\/p>\n\n\n\n \u00d6ka finansieringen f\u00f6r forskning om utv\u00e4rdering av AI-modeller. Att utveckla rigor\u00f6sa och standardiserade utv\u00e4rderingar \u00e4r sv\u00e5rt och tidskr\u00e4vande arbete som kr\u00e4ver betydande resurser. \u00d6kad finansiering, s\u00e4rskilt fr\u00e5n myndigheter, skulle kunna bidra till framsteg inom detta kritiska omr\u00e5de.<\/p>\n\n\n\n Kr\u00e4v att f\u00f6retag p\u00e5 kort sikt redovisar utv\u00e4rderingsmetoder och resultat. F\u00f6retag som anv\u00e4nder AI-system b\u00f6r vara skyldiga att uppfylla vissa krav p\u00e5 redovisning av sina utv\u00e4rderingar, \u00e4ven om dessa krav inte beh\u00f6ver offentligg\u00f6ras om det skulle \u00e4ventyra immateriell egendom (IP) eller konfidentiell information. Denna transparens skulle kunna hj\u00e4lpa forskare och beslutsfattare att b\u00e4ttre f\u00f6rst\u00e5 var befintliga utv\u00e4rderingar kan vara bristf\u00e4lliga.<\/p>\n\n\n\n P\u00e5 l\u00e5ng sikt utveckla en upps\u00e4ttning branschstandarder och b\u00e4sta praxis f\u00f6r utv\u00e4rdering. Myndigheter som NIST skulle kunna arbeta med att fastst\u00e4lla standarder och referensv\u00e4rden f\u00f6r att utv\u00e4rdera AI-modellers f\u00f6rm\u00e5gor, begr\u00e4nsningar och risker som f\u00f6retag skulle f\u00f6lja.<\/p>\n\n\n\n Skapa riskresponsiva bed\u00f6mningar baserat p\u00e5 modellens f\u00f6rm\u00e5gor Utveckla standardiserade bed\u00f6mningar av AI-systems f\u00f6rm\u00e5gor. Regeringar b\u00f6r finansiera och delta i utvecklingen av rigor\u00f6sa kapabilitets- och s\u00e4kerhetsutv\u00e4rderingar som \u00e4r inriktade p\u00e5 kritiska risker med avancerad AI, som exempelvis bedr\u00e4geri och autonomi. Dessa utv\u00e4rderingar kan ge ett evidensbaserat underlag f\u00f6r proportionell och riskresponsiv reglering. Utveckla en risktr\u00f6skel genom ytterligare forskning och finansiering av s\u00e4kerhetsutv\u00e4rderingar. <\/strong><\/p>\n\n\n\n N\u00e4r en risktr\u00f6skel har fastst\u00e4llts kan vi kr\u00e4va utv\u00e4rderingar f\u00f6r alla modeller gentemot denna tr\u00f6skel.<\/p>\n\n\n\n Om en modell ligger under denna risktr\u00f6skel \u00e4r befintliga s\u00e4kerhetsstandarder sannolikt tillr\u00e4ckliga. Verifiera efterlevnad och implementera.<\/p>\n\n\n\n Om en modell \u00f6verskrider risktr\u00f6skeln och s\u00e4kerhetsutv\u00e4rderingar och \u00e5tg\u00e4rder \u00e4r otillr\u00e4ckliga, stoppa implementeringen, f\u00f6rst\u00e4rk betydligt tillsynen och meddela regleringsmyndigheter. Fastst\u00e4ll l\u00e4mpliga skydds\u00e5tg\u00e4rder innan implementering till\u00e5ts.<\/p>\n\n\n\n Inf\u00f6r f\u00f6rregistrering f\u00f6r stora AI-tr\u00e4ningsk\u00f6rningar Inf\u00f6r en process f\u00f6r AI-utvecklare att rapportera stora tr\u00e4ningsk\u00f6rningar f\u00f6r att s\u00e4kerst\u00e4lla att regleringsmyndigheter \u00e4r medvetna om potentiella risker. Detta inneb\u00e4r att fastst\u00e4lla mottagare, n\u00f6dv\u00e4ndig information och l\u00e4mpliga cybers\u00e4kerhets-, konfidentialitets-, immateriell egendoms- och integritetsskydd.<\/p>\n\n\n\n Inf\u00f6r ett konfidentiellt register f\u00f6r AI-utvecklare som genomf\u00f6r stora tr\u00e4ningsk\u00f6rningar f\u00f6r att f\u00f6rregistrera modellinformation hos det nationella regeringsorganet (t.ex. modellspecifikationer, modelltyp, ber\u00e4kningsinfrastruktur, avsedd slutf\u00f6randedatum f\u00f6r tr\u00e4ning och s\u00e4kerhetsplaner) innan tr\u00e4ningen p\u00e5b\u00f6rjas. Aggregerad registerdata b\u00f6r skyddas enligt h\u00f6gsta tillg\u00e4ngliga standarder och specifikationer.<\/p>\n\n\n\n Ge tredjepartsrevisorer befogenhet som \u00e4r… Tekniskt kunniga \u2013 \u00e5tminstone vissa revisorer beh\u00f6ver ha djup erfarenhet av maskininl\u00e4rning. Medvetna om s\u00e4kerhet \u2013 v\u00e4lpositionerade f\u00f6r att skydda v\u00e4rdefull immateriell egendom, vilket kan utg\u00f6ra ett hot mot nationell s\u00e4kerhet vid st\u00f6ld. Flexibla \u2013 kapabla att genomf\u00f6ra rigor\u00f6sa men l\u00e4tta bed\u00f6mningar som identifierar hot utan att underminera USA:s konkurrenskraft.<\/p>\n\n\n\n Kr\u00e4v extern r\u00f6d lag-testning innan modellsl\u00e4pp Kr\u00e4v extern r\u00f6d lag-testning f\u00f6r AI-system, antingen genom en centraliserad tredje part (t.ex. NIST) eller p\u00e5 ett decentraliserat s\u00e4tt (t.ex. via forskar-API-\u00e5tkomst) f\u00f6r att standardisera angreppstester av AI-system. Detta b\u00f6r vara ett krav f\u00f6r utvecklare som sl\u00e4pper avancerade AI-system.<\/p>\n\n\n\n Inf\u00f6r h\u00f6gkvalitativa alternativ f\u00f6r extern r\u00f6d lag-testning innan de blir ett krav f\u00f6r modellsl\u00e4pp. Detta \u00e4r viktigt eftersom kompetens inom r\u00f6d lag-testning f\u00f6r n\u00e4rvarande i stort sett finns inom privata AI-laboratorier.<\/p>\n\n\n\n Fram\u00e5tskridande forskning om tolknbarhet<\/strong><\/p>\n\n\n\n \u00d6ka finansieringen f\u00f6r forskning om tolkningsbarhet. Ge statliga bidrag och incitament f\u00f6r tolkningsarbete vid universitet, ideella organisationer och f\u00f6retag. Detta skulle m\u00f6jligg\u00f6ra meningsfullt arbete med mindre modeller och fr\u00e4mja framsteg utanf\u00f6r ledande forskningslaboratorier.<\/p>\n\n\n\n F\u00f6rst\u00e5 att regleringar som kr\u00e4ver tolkningsbara modeller f\u00f6r n\u00e4rvarande inte \u00e4r genomf\u00f6rbara att uppfylla, men kan vara m\u00f6jliga i framtiden med forskningsframsteg.<\/p>\n\n\n\n M\u00f6jligg\u00f6r samarbete inom industrin om AI-s\u00e4kerhet genom tydlighet kring antitrustlagstiftning Regleringsmyndigheter b\u00f6r ge v\u00e4gledning om till\u00e5tna samordnings\u00e5tg\u00e4rder f\u00f6r AI-s\u00e4kerhet inom industrin med beaktande av befintlig antitrustlagstiftning. Genom att klarg\u00f6ra hur privata f\u00f6retag kan samarbeta i allm\u00e4nhetens intresse utan att bryta mot antitrustlagar kan man minska den r\u00e4ttsliga os\u00e4kerheten och fr\u00e4mja gemensamma m\u00e5l.<\/p>\n\n\n\n Vi tror att dessa rekommendationer kommer att ta oss n\u00e4rmare etablerandet av en effektiv ram f\u00f6r AI-ansvar. Detta kr\u00e4ver samarbete mellan forskare, AI-laboratorier, regleringsmyndigheter, revisorer och andra intressenter. Anthropic \u00e4r engagerat i att st\u00f6dja anstr\u00e4ngningar f\u00f6r att m\u00f6jligg\u00f6ra s\u00e4ker utveckling och implementering av AI-system. Utv\u00e4rderingar, r\u00f6d lag-testning, standarder, tolkningsbarhets- och annan s\u00e4kerhetsforskning, revision och starka cybers\u00e4kerhetspraxis \u00e4r alla lovande \u00e5tg\u00e4rder f\u00f6r att minska riskerna med AI samtidigt som man uppn\u00e5r dess f\u00f6rdelar.<\/p>\n\n\n\n Vi tror att AI kan ha transformerande effekter under v\u00e5r livstid och vi vill se till att dessa effekter \u00e4r positiva. Etablerandet av robusta mekanismer f\u00f6r AI-ansvar och revision kommer att vara avg\u00f6rande f\u00f6r att uppn\u00e5 detta m\u00e5l.<\/p>\n","protected":false},"excerpt":{"rendered":" Den h\u00e4r veckan skickade Anthropic in ett svar till National Telecommunications and Information Administration (NTIA) ang\u00e5ende en beg\u00e4ran om synpunkter p\u00e5 AI-ansvarighet. Idag vill vi dela med oss av v\u00e5ra rekommendationer, eftersom de f\u00e5ngar n\u00e5gra av Anthropics k\u00e4rnrekommendationer f\u00f6r AI-policy. F\u00f6r n\u00e4rvarande finns det ingen robust och omfattande process f\u00f6r att utv\u00e4rdera dagens avancerade artificiell…<\/p>\n","protected":false},"author":2,"featured_media":1768,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"_mi_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[71],"tags":[119,122,121,120],"class_list":["post-1767","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-the-guide","tag-ansvar","tag-lag","tag-ramverk","tag-regelverk"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/posts\/1767","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/comments?post=1767"}],"version-history":[{"count":1,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/posts\/1767\/revisions"}],"predecessor-version":[{"id":1769,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/posts\/1767\/revisions\/1769"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/media\/1768"}],"wp:attachment":[{"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/media?parent=1767"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/categories?post=1767"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/tags?post=1767"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
<\/p>\n\n\n\n