Vänlig artificiell intelligens (Friendly AI, FAI - eng. Friendly Artificial Intelligence, Friendly AI, FAI ) - begreppet AI-filosofi , en hypotetisk typ av artificiell intelligens som inte har en negativ inverkan på den mänskliga civilisationen . Många begrepp för utländska direktinvesteringar inkluderar påståendet att det inte bara inte kommer att skada mänskligheten, utan också kommer att ge materiellt och informativt stöd till människor, upp till full tillfredsställelse av varje enskild persons önskemål och behov. "Vänlig" i detta sammanhang är en teknisk term, vilket inte betyder att AI :n nödvändigtvis kommer att känna tillgivenhet och närhet till mänskligheten .
Att främja Friendly AI är ett av huvudmålen för Singularity Institute for Artificiell Intelligens , såväl som att få finansiering för detta projekt och i slutändan skapa en " frö-AI " vars motivationssystem initialt kommer att ha en oro för mänskligheten inbyggd i det. Flera anmärkningsvärda futurister har uttalat sig till stöd för Friendly AI, inklusive författaren och uppfinnaren Ray Kurzweil , livsförlängningsspecialisten Aubrey de Gray och World Transhumanist Associations medgrundare Nick Bostrom .
Den 11 december 2015 grundade Elon Musk , Sam Altman och andra företaget OpenAI , som syftar till att främja skapandet av öppen AI.
Den mest anmärkningsvärda kritikern av Friendly AI-teorin är Bill Hibbard , författare till Superintelligent Machines, som anser att teorin är ofullständig. Hibbard skriver att AI-skapande kräver mer politisk diskussion om AI-skapande och AI-moral. Han tror också att den första AI endast kan skapas av mäktiga privata företag (vilket Yudkowsky anser vara falskt), och dessa multinationella företag kommer inte att ha något incitament att implementera vänlighet. Han kritiserade SIAI:s riktlinjer för AI och föreslog en AI-målarkitektur där mänsklig lycka definieras genom mänskligt beteende som uttrycker lycka, i synnerhet uttrycket av ett leende på läpparna. Yudkowsky svarade på denna kritik genom att säga att en sådan nyttofunktion skulle vara mer sannolikt att bli tillfredsställd om hela solsystemet var fyllt med mikroskopiska leende dockor än på grund av människors faktiska lycka [1] .