Den intellektuella explosionen är en möjlig konsekvens av skapandet och utvecklingen av stark artificiell intelligens av människan , beskriven av Irving Good 1965 [1] .
Enligt detta koncept kommer mänskligheten vid något tillfälle att skapa en artificiell intelligens som kommer att kunna förbättra sig själv, dessutom utan mänsklig inblandning. Så i processen för självförbättring kan sådan artificiell intelligens omvandlas till en artificiell superintelligens som kommer att överträffa människors förmågor. Detta kommer att vara ögonblicket för "intellektuell explosion". Begreppet en intellektuell explosion är nära besläktat med begreppet en teknologisk singularitet .
Huvudskillnaden mellan stark artificiell intelligens och artificiell superintelligens från konventionell artificiell intelligens är att den förstnämndes förmågor på många sätt kommer att överträffa de intellektuella förmågorna hos de mest framstående representanterna för mänskligheten. Således kommer mänskligheten inte att fullt ut kunna förstå och kontrollera sin utveckling.
Trots att forskare som är involverade i utvecklingen av artificiell intelligens ännu inte har utvecklat en enda allmänt accepterad definition av stark artificiell intelligens, finns det en överenskommelse om vilka egenskaper en stark artificiell intelligens (AI) ska ha. Sålunda kan AIS :
Bland andra egenskaper hos en stark artificiell intelligens framträder också dess potentiella förmågor för medvetande, självmedvetenhet och visdom.
Det är värt att nämna att ingen av ovanstående egenskaper kan kallas obligatorisk för skapandet av en starkt artificiell intelligens. Dessutom finns det ingen konsensus bland forskare om huruvida listan över dessa egenskaper är tillräcklig för att skapa och fungera stark artificiell intelligens.
I sina Reflections on the First Ultraintelligent Machine från 1965 skriver Irving Goode:
"Låt oss definiera en ultraintelligent maskin som en maskin som vida kan överträffa en persons intellektuella aktivitet, oavsett hur smart han kan vara. Eftersom konstruktion av maskiner är en av de intellektuella aktiviteterna, är en ultraintelligent maskin kapabel att konstruera fler och mer perfekta maskiner; då kommer det utan tvekan att ske en "intellektuell explosion", och det mänskliga sinnet kommer att lämnas långt bakom. Således är den första ultraintelligenta maskinen den sista uppfinningen som kommer att krävas av en person ... " [3]
Därmed presenterar han bevis på möjligheten att skapa en mer avancerad version av artificiell intelligens. Irving Goodes idé om att människan någon gång kommer att uppfinna en maskin vars intellektuella förmågor kommer att överträffa människans blev grunden för diskussioner om den tekniska singulariteten. Dessutom ansåg Good detta ögonblick i mänsklighetens historia vara oundvikligt och positivt, eftersom maskiner efter en intellektuell explosion kommer att lösa mänsklighetens alla existerande problem, eftersom de kommer att kunna göra detta med mycket större effektivitet än en person. I Reflections on the First Ultraintelligent Machine sa han att skapandet av en artificiell intelligens med förmåga till självförbättring och självreplikering skulle vara "människans sista uppfinning", eftersom maskiner skulle kunna lösa även problem som utgör en fara för mänsklig civilisation. Men senare i sitt arbete uttrycker Good ganska berättigade farhågor om huruvida en person kan behålla någon kontroll över den superintelligens han uppfann och förståelse för dess handlingar. När allt kommer omkring, om en "smart maskin" inte säger till en person "hur den kan kontrolleras", kommer mänskligheten inte att ha möjlighet att påverka sin uppfinning. Konsekvenserna av detta kan vara mycket olika [4] .
I boken Vårt matematiska universum. På jakt efter verklighetens fundamentala natur” [5] skriver Max Tegmark om de möjliga konsekvenserna av en intellektuell explosion. Han reflekterar över det möjliga förhållandet mellan människan och artificiell intelligens och analyserar stabiliteten i förhållandet mellan artificiell intelligens, vars förmågor kommer att överträffa mänskligheten, och mänskligheten själv. Så även väletablerade vänskapliga relationer kan vara extremt instabila, och deras utveckling är oförutsägbar. Således finner Tegmark Goodes partiella pessimism i denna fråga ganska berättigad, med tanke på komplexiteten i AI-operationen efter den intellektuella explosionen och otillgängligheten av en fullständig förståelse av dess aktiviteter för människor.
1950 skriver Alan Turing – en kollega och vän till Irving Hood, som de arbetade tillsammans med i Bletchley Park under andra världskriget med ett team av kryptografer – artikeln "Computing Machinery and Intelligence" (COMPUTING MACHINERY AND INTELLIGENCE). I den skisserar han de vanligaste invändningarna från motståndare mot idén om möjligheten att skapa "tänkande maskiner". Trots att verket skrevs och publicerades för mer än ett halvt sekel sedan förblir de invändningar som Turing nämner relevanta, eftersom de bland annat speglar tidlösa religiösa övertygelser, matematiska bestämmelser och drag i det mänskliga psyket.
Så artikeln ger följande anledningar till omöjligheten att skapa "tänkande maskiner". För det första tillskrivs förmågan att tänka ur en teologisk synvinkel den mänskliga själen. Därför kan allt som inte har en själ inte vara kapabelt att tänka. För det andra kan G. Gödels teorem i detta sammanhang betraktas som ett bevis på omöjligheten att skapa en stark artificiell intelligens, eftersom om det logiska systemet är tillräckligt kraftfullt, så kan uttalanden inom dess ramar formuleras på ett sådant sätt att de varken kan bevisas eller motbevisas inom ett sådant system (naturligtvis om systemet i sig inte är inkonsekvent). För det tredje, även om maskinen reagerar på yttre stimuli på samma sätt som en människa skulle, som att svara på intervjuarens frågor om "dess utseende", visa en njutningsreaktion från beröm, skriva sonetter etc., är det omöjligt att veta om hon upplever känslor genom att förvandla dem till poesi, vet hur hon ser ut på ett eller annat sätt och njuter av att bli hyllad. Förmodligen är detta bara en reaktion programmerad i henne, inte medveten om henne. Ada Lovelace , den berömda engelska matematikern, skrev i sina memoarer att "den analytiska motorn inte låtsas skapa någonting", och att den bara kan återge det som beordrats till den av en person. Ur biologisk synvinkel är det också uppenbarligen omöjligt för en maskin att efterlikna beteendet hos det mänskliga nervsystemet. Det nämns också att det är omöjligt för en maskin att programmera alla möjliga beteenden för alla möjliga scenarier, därför kommer en persons reaktion i detta fall att vara annorlunda än en maskins reaktion [6] .
Fenomenet intellektuell explosion, liksom det relaterade fenomenet teknisk singularitet, har varit brett representerat i populärkulturen i decennier. I kulturverk utspelas olika konsekvenser och alternativ för utvecklingen av relationen mellan människa och artificiell intelligens, där händelser utvecklas både i positiv riktning och vice versa.