Forskare fr\u00e5n University of Kansas publicerade p\u00e5 onsdagen en artikel som beskriver en algoritm som de s\u00e4ger kan uppt\u00e4cka akademiskt skrivande fr\u00e5n ChatGPT med en noggrannhet p\u00e5 \u00f6ver 99%.<\/p>\n\n\n\n
N\u00e4r inneh\u00e5llet fr\u00e5n AI-chatbotar b\u00f6rjar \u00f6versv\u00e4mma v\u00e4rlden \u00e4r en av de st\u00f6rsta bekymren att tillf\u00f6rlitligt kunna skilja mellan robotars ord och riktiga m\u00e4nskliga. Det har gjorts n\u00e5gra f\u00f6rs\u00f6k att bygga ChatGPT-detektorer, och tiotals f\u00f6retag t\u00e4vlar om att utveckla AI-uppt\u00e4ckningsteknik. Men hittills fungerar ingen av alternativen bra, inte ens den som utvecklats av OpenAI, f\u00f6retaget som skapade ChatGPT. De befintliga verktygen \u00e4r s\u00e5 ineffektiva att de i princip \u00e4r v\u00e4rdel\u00f6sa.<\/p>\n\n\n\n
Den ChatGPT-detektor som beskrivs i artikeln \u00e4r bara utformad f\u00f6r att fungera i specifika sammanhang, men den rapporterade framg\u00e5ngen verkar lovande. Under processen med att bygga algoritmen s\u00e4ger forskarna att de har identifierat typiska tecken p\u00e5 AI-skrivande.<\/p>\n\n\n\n
Artikeln, som har genomg\u00e5tt peer-review och publicerats i Cell Reports Physical Science, beskriver en teknik som sniffar upp AI-f\u00f6rfattade vetenskapliga forskningsartiklar. Studien valde ut en upps\u00e4ttning av 64 vetenskapliga forskningsartiklar skrivna av m\u00e4nskliga f\u00f6rfattare inom olika \u00e4mnen – fr\u00e5n biologi till fysik. De matade den datan till ChatGPT och anv\u00e4nde den f\u00f6r att producera en dataset med 128 AI-artiklar, totalt 1 276 stycken av nonsens fr\u00e5n chatbot. Forskarna anv\u00e4nde dessa falska stycken f\u00f6r att bygga sin ChatGPT-detektionsalgoritm. Sedan skapade de en ny dataset f\u00f6r att testa sin algoritm med 30 riktiga artiklar och 60 ChatGPT-skrivna artiklar, totalt 1 210 stycken stycken.<\/p>\n\n\n\n
Forskarna h\u00e4vdar att deras algoritm uppt\u00e4ckte hela artiklar skrivna av ChatGPT 100% av tiden. Den var mindre noggrann men \u00e4nd\u00e5 imponerande p\u00e5 styckesniv\u00e5: algoritmen uppt\u00e4ckte 92% av AI-stycken.<\/p>\n\n\n\n
Forskarna hoppas att andra ska anv\u00e4nda deras arbete f\u00f6r att anpassa detektionsprogramvara efter sina egna omr\u00e5den och \u00e4ndam\u00e5l. ”Vi f\u00f6rs\u00f6kte skapa en tillg\u00e4nglig metod s\u00e5 att \u00e4ven gymnasieelever med lite handledning skulle kunna bygga en AI-detektor f\u00f6r olika typer av skrivande,” s\u00e4ger Heather Desaire, en av f\u00f6rfattarna till artikeln och professor i kemi vid University of Kansas, i en intervju med EurekAlert. ”Det finns ett behov av att hantera AI-skrivande, och m\u00e4nniskor beh\u00f6ver inte ha en examen inom datavetenskap f\u00f6r att bidra till detta omr\u00e5de.”<\/p>\n\n\n\n
Artikeln n\u00e4mner n\u00e5gra typiska tecken p\u00e5 ChatGPT:s arbete. Till exempel skriver m\u00e4nskliga f\u00f6rfattare l\u00e4ngre stycken, anv\u00e4nder ett st\u00f6rre ordf\u00f6rr\u00e5d, inkluderar fler skiljetecken och tenderar att kvalificera sina p\u00e5st\u00e5enden med ord som ”dock”, ”men” och ”trots”. ChatGPT \u00e4r ocks\u00e5 mindre specifik med citat som figurer och h\u00e4nvisningar till andra forskare.<\/p>\n\n\n\n
Modellen som byggts av Desaire och hennes kollegor fungerar inte direkt f\u00f6r l\u00e4rare som hoppas att straffa fuskande gymnasieelever. Algoritmen \u00e4r utformad f\u00f6r akademiskt skrivande, s\u00e4rskilt den typ av akademiskt skrivande som man l\u00e4ser i vetenskapliga tidskrifter. Det \u00e4r en besvikelse f\u00f6r l\u00e4rare och administrat\u00f6rer som generellt sett har oroat sig \u00f6ver plagiat som underl\u00e4ttats av ChatGPT under de senaste sex m\u00e5naderna. Men Desaire s\u00e4ger att man teoretiskt sett kan anv\u00e4nda samma teknik f\u00f6r att bygga en modell som uppt\u00e4cker andra typer av skrivande.<\/p>\n\n\n\n
Det blir problematiskt n\u00e4r man \u00f6verv\u00e4ger det faktum att en f\u00f6rfattare l\u00e4tt kan g\u00f6ra sm\u00e5 \u00e4ndringar i en bit chatbot-skrivande och g\u00f6ra det mycket sv\u00e5rare att uppt\u00e4cka. \u00c4nd\u00e5 beskriver forskarna detta arbete som ett ”proof of concept” och s\u00e4ger att de kan utveckla ett mer robust och kanske mer noggrant verktyg med en st\u00f6rre dataset.<\/p>\n\n\n\n
S\u00e5 lovande som dessa resultat kan vara s\u00e4ger teknikf\u00f6retag och AI-entusiaster att verktyg som ChatGPT fortfarande \u00e4r i sin linda. Det \u00e4r om\u00f6jligt att s\u00e4ga om uppt\u00e4ckningsmetoder som denna kommer att h\u00e5lla om AI forts\u00e4tter att utvecklas i den snabba takt vi har sett de senaste \u00e5ren. Ju mer avancerade stora spr\u00e5kmodeller blir p\u00e5 att \u00e5terskapa det som k\u00e4nnetecknar m\u00e4nskligt skrivande, desto sv\u00e5rare blir det att identifiera sp\u00e5ren av robotspr\u00e5k.<\/p>\n","protected":false},"excerpt":{"rendered":"
Forskare fr\u00e5n University of Kansas publicerade p\u00e5 onsdagen en artikel som beskriver en algoritm som de s\u00e4ger kan uppt\u00e4cka akademiskt skrivande fr\u00e5n ChatGPT med en noggrannhet p\u00e5 \u00f6ver 99%. N\u00e4r inneh\u00e5llet fr\u00e5n AI-chatbotar b\u00f6rjar \u00f6versv\u00e4mma v\u00e4rlden \u00e4r en av de st\u00f6rsta bekymren att tillf\u00f6rlitligt kunna skilja mellan robotars ord och riktiga m\u00e4nskliga. Det har gjorts…<\/p>\n","protected":false},"author":2,"featured_media":1739,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"_mi_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[69],"tags":[105,106,104],"class_list":["post-1738","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-the-good","tag-forfalskning","tag-fusk","tag-skola"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/posts\/1738","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/comments?post=1738"}],"version-history":[{"count":1,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/posts\/1738\/revisions"}],"predecessor-version":[{"id":1740,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/posts\/1738\/revisions\/1740"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/media\/1739"}],"wp:attachment":[{"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/media?parent=1738"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/categories?post=1738"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aiguiden.com\/index.php\/wp-json\/wp\/v2\/tags?post=1738"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}