TEKNIK • Medan över 1 000 forskare har krävt att utvecklingen av artificiell intelligens stoppas i sex månader för att utreda följderna finns en som vill gå längre än så. Den judiske AI-forskaren Eliezer Yudkowsky menar att alla människor kommer att utrotas om inte utvecklingen stoppas helt.

Nyligen skrev över 1 100 forskare, teknik- och IT-entreprenörer och andra involverade i artificiell intelligens ett öppet brev där man krävde att utvecklingen av AI pausas i sex månader. Detta eftersom företagen hetsar fram teknologi i konkurrens med varandra utan att resonera kring konsekvenserna eller ens förstå sig på vad man skapar helt och hållet.

”AI-system med intelligens som kan tävla med människor kan utgöra verkliga risker för samhället och mänskligheten”, står det i brevet som bland annat Elon Musk signerat. Man varnar för en ”kapplöpning utom kontroll att utveckla teknologi och sprida allt kraftfullare digitala hjärnor som ingen – inte ens dess skapare – kan förstå, förutspå eller kontrollera på ett trovärdigt sätt”.

"Alla på jorden kommer att dö"

En som inte skrivit på det öppna brevet är den amerikanske juden och AI-forskaren Elieser Yudkowsky som är medgrundare av Machine Intelligence Research Institute och en känd förespråkare av ”vänlig artificiell intelligens”. Yudkowsky har dock inte avstått för att han tycker att utvecklingen är säker, utan snarare för att han anser den bör stoppas helt.

I ett eget öppet brev varnar Yudkowsky för att ”det troligaste resultatet av att bygga en övermänskligt smart AI, under alla omständigheter liknande de nuvarande, är bokstavligen att alla på jorden kommer att dö”.

Yudkowsky skriver att utvecklingen av AI-teknologi nu går så snabbt att forskare inom en väldigt snar fram tid kommer att skapa artificiell intelligens som vida överstiger människans utan att ens märka det.

”Det är inte så att man inte rent teoretiskt inte kan överleva skapelsen av något mycket smartare än en själv. Men det skulle kräva precision och förberedelser och ny vetenskaplig insikt”, skriver han vidare och menar att mänskligheten inte är på den nivån just nu.

Vidare jämför han mötet mellan dagens mänsklighet och övermänsklig artificiell intelligens som ”en 10-årig som spelar schack mot [den obesegrade schackmotorn] Stockfish 15” eller som att ”1000-talet skulle försöka kriga mot 2000-talet”.

Enligt Yudkowsky gör många misstaget att se farorna med AI som en ”livlös och påläst tänkare som dväljs på Internet och skickar ut e-post med dåliga intentioner”. Han menar att vi istället ska visualisera ”en hel utomjordisk civilisation som kan tänka miljontals gånger snabbare än människan” och som ser på oss som ”väldigt korkade och väldigt långsamma”.

En sådan AI skulle inte länge hålla sig begränsad till datorer och Internet, menar Yudkowsky, som påpekar att man redan idag kan mejla DNA-strängar till laboratorier som sedan skapar proteiner av dem. Detta hävdar han skulle ”tillåta en AI som inledningsvis är instängd på Internet att bygga artificiella livsformer eller kasta sig direkt in i postbiologisk molekylär konstruktion”.

Om någon bygger en alldeles för kraftig AI, under nuvarande omständigheter, förväntar jag mig att varenda medlem av den mänskliga arten och allt biologiskt liv på jorden dör strax därefter.

Yudkowsky går så långt som att kräva att ett tillsvidare stopp av all utveckling måste implementeras utan undantag, inklusive för militärer och underrättelsetjänster. Han menar till och med att världen måste prioritera hur man förhindrar en utrotning via AI framför fullständigt kärnvapenkrig om mänskligheten ska överleva.

Bill Gates motsätter sig all form av stopp i AI-utvecklingen

En som inte alls vill stoppa teknologin kring AI är Microsoftgrundaren Bill Gates. Till Reuters säger han att teknologin kommer att leda till ”stora förtjänster” och att en paus inte skulle ”lösa utmaningarna”.

— Jag förstår inte riktigt vem de menar skulle pausa, och skulle ens alla länder i världen gå med på att stoppa [utvecklingen]? Och varför stoppa den?, säger IT-miljardären till Reuters och betonar att man istället måste identifiera ”de knepiga bitarna” med AI.

I februari lanserade Microsoft sin nya version av sökmotorn Bing, som byggts upp av AI-företaget OpenAI som Microsoft investerat enorma summor pengar i. Man har också implementerat en chattbott i den nya versionen av webbläsaren Edge.

Enligt Microsofts vd Satya Nadella ville man med AI-lanseringen utmana sina konkurrenter och specifikt förmå Google att ”komma ut och visa att de kan dansa”.

— Jag vill att människor ska veta att vi fick dem [Google] att dansa, sa Nadella i en intervju efter lanseringen.