{"id":19123,"date":"2025-01-29T05:56:43","date_gmt":"2025-01-29T04:56:43","guid":{"rendered":"https:\/\/krabat.menneske.dk\/kkblog\/?p=19123"},"modified":"2025-01-29T07:00:10","modified_gmt":"2025-01-29T06:00:10","slug":"ai-operativt-ansvar-for-liv","status":"publish","type":"post","link":"https:\/\/krabat.menneske.dk\/kkblog\/2025\/01\/29\/ai-operativt-ansvar-for-liv\/","title":{"rendered":"AI-operativt ansvar for liv"},"content":{"rendered":"

 <\/p>\n

\n
En AI har i december 24 scoret<\/a> h\u00f8jt p\u00e5 en test beregnet p\u00e5 at bed\u00f8mme menneskelig intelligens. Som eksempel: se p\u00e5 billedet af de tre kassepar og regn ud, hvordan det fjerde skal se ud. Eller bare, hvad reglen er.<\/p>\n<\/div>\n<\/div>\n
\n
Jo ‘l\u00f8sere’ regler et system har, desto bedre m\u00f8nstergenkender det. Det kender vi fra evolutionen i dyrs adf\u00e6rd, men med en tidlig computersimulation, “game of life”, kunne vi med relativt lille processorkraft og meget simple regler ( = overlev!) gennemspille mange generationer af digitale v\u00e6sener og se reglerne udspille sig for vore \u00f8jne som f\u00f8dsel og d\u00f8d.<\/p>\n<\/div>\n<\/div>\n
\n
LOGIK OG MENNESKELOGIK<\/strong><\/div>\n
For at kunne forklare problematikken for mig selv, har jeg f\u00e5et hj\u00e6lp af Claude og ChatGPT til at kondensere en forskningsartikel om samme og finde danske udtryk for en del af terminologien p\u00e5 engelsk.<\/p>\n<\/div>\n<\/div>\n
\n
“Simple modeller’ har f\u00e5 regler eller afgr\u00e6nsninger indprogrammerede, hvilket anses for afg\u00f8rende for ‘generel intelligens’ – evnen til at l\u00f8se mange forskellige opgaver p\u00e5 niveau med mennesker.<\/p>\n<\/div>\n<\/div>\n
\n
Simple modeller aff\u00f8der bedre ‘generalisering’, bedre h\u00e5ndtering af nye, ukendte situationer baseret p\u00e5 tidligere erfaringer, idet de afd\u00e6kker dataenes underliggende m\u00f8nstre med st\u00f8rre l\u00e6ring fra f\u00e6rre eksempler til f\u00f8lge, kaldet ‘sample efficiency’.<\/p>\n<\/div>\n<\/div>\n
\n
For at opn\u00e5 en h\u00f8j grad af generalisering – siger forskningen nu – er det bedre med st\u00f8rre funktionel frihed i systemet, st\u00f8rre spillerum (‘weak constraints’) end bare at have et simpelt system.<\/p>\n<\/div>\n<\/div>\n
\n
Hvis funktionen s\u00e5ledes bestemmes af en m\u00e5lrettet proces, der favoriserer alsidighed, t\u00e6nk ‘naturlig udv\u00e6lgelse’ eller ‘forandringer i dyrs adf\u00e6rd over tid’, fordrer effektivitetskravet, at b\u00e5ndene p\u00e5 systemets mulighed for at konkludere (weak constraints) er mindst mulige.<\/p>\n<\/div>\n<\/div>\n
\n
Lig n\u00e6vnte “game of life” – enkle regler, st\u00f8rre effekt.<\/p>\n<\/div>\n<\/div>\n
\n
MORAL OG L\u00d8SNINGER<\/strong><\/div>\n
Artiklen glemmer dog, at menneskehjerner ikke skal v\u00e6re maskineffektive, fordi overhovedet at l\u00f8se et problem udl\u00f8ser bel\u00f8nning i hjernen, uanset m\u00e5den og hastigheden. Nydelsen er m\u00e5ske nok logisk set med overlevelses\u00f8jne, men indtil videre er “un\u00f8dvendige beregninger” hele forskellen p\u00e5 ‘generel intelligens’ i maskinen og mennesker.<\/p>\n<\/div>\n<\/div>\n
\n
Man har sikkert indset, hvad l\u00f8sningen er p\u00e5 billedet, men snarere end bare at rykke kasserne det antal felter som ‘pilen’ angiver, som er en ‘simpel l\u00f8sning’, der alene baserer sig p\u00e5 kassernes rammer, kunne en menneskehjerne have antaget, at det dels var frivilligt om man antog ensartede regler for alle kasser, dels at der var et rum “uden for rammerne” at bev\u00e6ge sig i, og at retningen p\u00e5 ‘pilen’ kunne g\u00e5 den anden vej, ud fra en fysisk viden om at Jorden er rund, eller mod “nord” og “Syd” som en korrelation med Jordens rotation, mens forflytningen gjordes. Eller at reglen var at man hoppede, og s\u00e5 drejede Jorden under \u00e9n. Eller…<\/div>\n<\/div>\n
\n
Et menneske kan nemt komme p\u00e5 en ‘kompleks’ l\u00f8sning, som giver det samme resultat, og udl\u00f8ser bel\u00f8nning i hjernen, men det vil s\u00e5 v\u00e6re en l\u00f8sning, der fordrer kendskab til og betydningen af en fysisk virkelighed og ikke bare beskrivelsen af den.<\/p>\n<\/div>\n<\/div>\n
\n
“INDTIL VIDERE”<\/strong><\/div>\n
For at en AI-model skal kunne g\u00e5 fra at v\u00e6ret et simpelt ekspertsystem til at kunne erkende som et menneske (“opn\u00e5 bevidsthed”), skal den have lov at opfatte enhver l\u00f8sning som brugbar, ikke bare den statistiske eller formm\u00e6ssigt ‘simpleste l\u00f8sning’.<\/p>\n<\/div>\n<\/div>\n
\n
I s\u00e5 fald skal den s\u00e5 tr\u00e6nes som M\u00c6GLER p\u00e5 menneskelig overlevelsespraksis, der tilgodeser Arten UDEN at fraregne Individets identitetsbehov og historie & i ko-eksistens med resten af planetens livsformer som selvst\u00e6ndige og ligestillede Arter. D\u00e9t er et MEGA-komplekst beregningsgrundlag, der fordrer SINDSSYGT meget energi med dagens processorer – uden at det i sig selv giver bedre afkast p\u00e5 investeringen.<\/p>\n<\/div>\n<\/div>\n
\n
Det er s\u00e5ledes NU og HER – F\u00d8R udviklingen af endnu mere kompleksitetsberegnende processorer – at der skal s\u00e6ttes politiske begr\u00e6nsninger ind for dens r\u00e5derum. At en AI eks. ikke m\u00e5 opfatte ‘bortskaffelse af menneskene’ som l\u00f8sning p\u00e5 klimakrisen, eller at ‘naboerne er til fare for os’ – selvom d\u00e9t er lige s\u00e5 logisk som alle andre tiltag. Men, som sagt: n\u00e5r man f\u00f8rst begynder at skulle begr\u00e6nse et AI-systems l\u00f8sningsmodeller med alle mulige moralske og etiske regler og ikke-antropocen bias (plads til alle!)… f\u00e5r man d\u00e5rligere l\u00e6ring. Og hvilket kommercielt AI-firma \u00f8nsker det…?<\/p>\n<\/div>\n<\/div>\n
\n
Man kan opsummere det s\u00e5ledes: Menneskeheden f\u00e5r billigere og ‘bedre’ AI-systemer ved at minimere omfanget af moralbaserede regler. Menneskeheden m\u00e5 s\u00e5 bare ikke give AI operativt ansvar for menneskeliv.<\/p>\n

Rent realistisk tror jeg sgu, at vi er ved at profitmaksimere os til Frankensteins uhyre, v2.<\/span><\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

– Frankensteins uhyre som Alladins \u00e5nd<\/p>\n","protected":false},"author":1,"featured_media":19126,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2908],"tags":[3167,3166,3168],"class_list":["post-19123","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai","tag-ai-forskning","tag-ai-selvstaendighed","tag-open-ai"],"_links":{"self":[{"href":"https:\/\/krabat.menneske.dk\/kkblog\/wp-json\/wp\/v2\/posts\/19123","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/krabat.menneske.dk\/kkblog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/krabat.menneske.dk\/kkblog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/krabat.menneske.dk\/kkblog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/krabat.menneske.dk\/kkblog\/wp-json\/wp\/v2\/comments?post=19123"}],"version-history":[{"count":4,"href":"https:\/\/krabat.menneske.dk\/kkblog\/wp-json\/wp\/v2\/posts\/19123\/revisions"}],"predecessor-version":[{"id":19130,"href":"https:\/\/krabat.menneske.dk\/kkblog\/wp-json\/wp\/v2\/posts\/19123\/revisions\/19130"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/krabat.menneske.dk\/kkblog\/wp-json\/wp\/v2\/media\/19126"}],"wp:attachment":[{"href":"https:\/\/krabat.menneske.dk\/kkblog\/wp-json\/wp\/v2\/media?parent=19123"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/krabat.menneske.dk\/kkblog\/wp-json\/wp\/v2\/categories?post=19123"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/krabat.menneske.dk\/kkblog\/wp-json\/wp\/v2\/tags?post=19123"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}