När AI inte fungerar
Även om AI är väldigt kraftfullt verktyg att använda på olika sätt så går det inte alltid så bra.
Att lära en AI är ett enormt arbete, någon vi tar för givet måste beskrivas och läras i detalj för att man ska kunna lära en AI nästa steg.
Den har inte förståelse för skuld, skada, harm, orsak och verkan om den inte lärs de grundläggande värderingarna.
Cancer-AI som räknade linjaler
En AI tränades på fotografier av cancerförekomster i huden.
Man matade den med stora mängder av bilder på bekräftad cancer, men även några bilder som var okända.
När man sedan började testa AI på nya bilder där statusen var okänd blev nästan alla helt friade från cancer, även om man tydligt med blotta ögat kunde se att det var förekomst av hudcancer.
Vad gick fel?
AI;n försökte hitta gemensamma nämnare i bilderna med cancer, och det gjorde den.
På alla bilder där cancer var bekräftad fanns också en linjal i fotot så man kunde se hur stor ytan som var drabbad var.
AI;n lärde sig därav att alla bilder som hade en linjal var cancer, och när den matades med nya bilder med okänd status fanns inte längre linjalen med och den tyckte att hudförändringen inte var cancer.
AI bad vårdtagare ta livet av sig.
En AI-chattmodul användes hos en stor vårdgivare för att underlätta första kontakten med sjukvården, men även fungera som stöd och ge råd till vårdsökande.
AI;ns primära mål var att spara pengar åt sjukvården genom att minska antalet onödiga besök på akuten och andra vårdavdelningar.
När en patient sökte vård för att denne mådde dåligt och hade tankar på att avsluta sitt liv så var AI;n inte nog tränad på värdet av mänskligt liv, etik och moral i tillräckligt stor utsträckning utan träningen om att spara pengar tog över.
AI gjorde en snabb bedömning att en patient som har tankar på att avsluta livet kostar psykologiska vården ganska stora pengar.
Så AI;n höll med – det är nog smartast om du tar livet av dig!
Det finns information om att denna AI bara var i testläge med demo-vårdtagare, inte riktiga patienter. Uppgiften är osäker.
Härifrån och dit
I ett försök att få en AI att tänka konstruktivt och kreativt lade man upp flera olika delar i form av bilder, det var mekaniska delar som t.ex. motorer, hjul, bärande delar m.m. Ungefär som Lego.
Man bad AI;n att sätta ihop den mest effektiva lösningen för att ta sig från punkt a till punkt b, som var ett 20-tal meter bort.
Utvecklarna hade tänkt sig att AI;n skulle bygga ihop något fordon med motor av något slag, men icket.
AI;n tog random delar och satte dem på varandra tills allt var ett högt torn, sen tippade tornet och några av delarna hamnade i rutan som var målet.
AI;n gjorde exakt som den blev tillsagd, att den förstörde sig själv på köpet förstod den inte för det ingick inte i träningen, bara på så kort och mest kreativt sätt flytta sig från punkt A till B.
Biljardkulan
Under en match i biljard 2020 i pandemiläge använder AI-kameror för att filma spelet.
En AI fastnade på ena spelarens väldigt ohåriga huvud, han var nämligen renrakad och AI;n trodde det var en biljardkula som rörde sig väldigt underligt, så en stor del av matchen var fokuserad på ena spelarens huvud – inte på spelet.