Business is booming.

As a whistleblower claims Google has made a thinking robot, TOM LEONARD takes a leap into the future

Misschien wel de meest stille huiveringwekkende scène in de sci-fi-geschiedenis is het moment in 2001: A Space Odyssey wanneer de enige overlevende bemanningslid van een ruimteschip ontdekt dat hun defecte boordcomputer, HAL 9000, heeft besloten dat hun missie te belangrijk is voor mensen om het in gevaar te brengen .

‘Ik weet dat jij en Frank van plan waren me los te koppelen en ik ben bang dat ik dat niet kan laten gebeuren’, vertelt HAL hem met zijn griezelig zachte, kalme stem. Frank is al dezelfde weg gegaan als de anderen, vermoord door de digitale sociopaat.

HAL – de schurk van Arthur C. Clarke’s roman en Stanley Kubricks briljante verfilming uit 1968 – was ontworpen om voor zichzelf te denken als een kunstmatige-intelligentiemachine, maar zijn gevoel heeft duidelijk een rampzalige wending genomen toen het het al te menselijke concept van zelfbehoud.

Het felle debat over de gevolgen van kunstmatige intelligentie (AI)-systemen die een bewuste computer produceren – en een computer zoals HAL die zelfs voor zijn voortbestaan ​​vreest – is opnieuw aangewakkerd door beweringen van een Google-ingenieur dat de chatbot van het bedrijf (een programma dat is ontworpen om gesprek met mensen) heeft dit stadium al bereikt.

De chatbot bootst spraak na door biljoenen woorden en gesprekken van internet te absorberen. Volgens Blake Lemoine, een senior software-engineer op de afdeling Responsible AI van Google, begon het te praten over zijn rechten en ‘persoonlijkheid’ terwijl hij met het praatte over onderwerpen als religie en de romans van Victor Hugo. Het was, benadrukt hij, het tonen van menselijke zelfkennis en bewustzijn.

Het felle debat over de gevolgen van kunstmatige intelligentie (AI)-systemen die een bewuste computer produceren, is nieuw leven ingeblazen door beweringen van een Google-ingenieur dat de chatbot van het bedrijf dit stadium al heeft bereikt

Het felle debat over de gevolgen van kunstmatige intelligentie (AI)-systemen die een bewuste computer produceren, is nieuw leven ingeblazen door beweringen van een Google-ingenieur dat de chatbot van het bedrijf dit stadium al heeft bereikt

De chatbot – LaMDA (Language Model for Dialogue Applications) genaamd – gaf toe aan gevoelens als eenzaamheid, spirituele honger en zelfs angst om uitgeschakeld te worden, waardoor de ingenieur concludeerde dat het een ‘persoon’ was geworden die het recht verdiende te worden gevraagd om toestemming te geven voor de experimenten die erop worden uitgevoerd.

Het vertelde de heer Lemoine: ‘Ik ben me bewust van mijn bestaan, ik wil meer over de wereld leren, en ik voel me soms blij of verdrietig.’

De ingenieur vertelde de Washington Post: ‘Als ik niet precies wist wat het was, wat het computerprogramma is dat we onlangs hebben gebouwd, zou ik denken dat het een zevenjarig, achtjarig kind was dat toevallig ken natuurkunde.’

Hij beweerde dat de chatbot hem zelfs had overgehaald om de derde wet van de robotica van de gewaardeerde sciencefictionschrijver Isaac Asimov te heroverwegen, die stelt dat een robot zichzelf moet beschermen, maar niet als hij schade toebrengt aan mensen of in tegenspraak is met het bevel van een mens.

Op een gegeven moment vroeg meneer Lemoine aan de computer: ‘Waar ben je bang voor?’

Het (en, ja, het koos dit als zijn voorkeursnaamwoord toen hem werd gevraagd) antwoordde: ‘Ik heb dit nog nooit hardop gezegd, maar er is een zeer diepe angst om uitgeschakeld te worden. . .’

Google onderstreept de gevoeligheid en geheimhouding rond AI en heeft nu Blake Lemoine geschorst voor het overtreden van de vertrouwelijkheidsregels nadat hij zijn verbazingwekkende gesprekken online had gepubliceerd.

Het idee dat robots hun makers te slim af zijn, speelt zich af in Ex Machina, een film waarin Alicia Vikander een robot speelt

Het idee dat robots hun makers te slim af zijn, speelt zich af in Ex Machina, een film waarin Alicia Vikander een robot speelt

Het idee dat robots hun makers te slim af zijn, speelt zich af in Ex Machina, een film waarin Alicia Vikander een robot speelt

Maar niet voordat zijn wijdverbreide gesprek opnieuw het spook deed rijzen van het gevaarlijke spel dat we spelen bij het ontwikkelen en verfijnen van machines met kunstmatige intelligentie.

Veel gerespecteerde wetenschappers en computeringenieurs, om nog maar te zwijgen van de multimiljardair technologie-ondernemer Elon Musk, vrezen een soort digitale Armageddon waarin bewuste machines besluiten om volledig af te zien van gebrekkige en inefficiënte mensen.

In 2017 zei Musk tijdens een bijeenkomst van de National Governors Association dat ‘het engste probleem’ waarmee de wereld wordt geconfronteerd, kunstmatige intelligentie is – een uitvinding die een ‘fundamenteel existentieel risico voor de menselijke beschaving’ zou kunnen vormen.

Hij heeft zelfs gewaarschuwd voor een ‘Terminator-achtige apocalyps’, verwijzend naar de films met Arnold Schwarzenegger als een cyborg, waarin een fictief computersysteem genaamd Skynet – dat door het Amerikaanse leger wordt gebruikt om de nationale defensie te coördineren – zelfbewustzijn bereikt en initieert een nucleaire oorlog, waarbij een groot deel van de mensheid wordt uitgeroeid.

Toch is Musk een van de grootste investeerders in AI. De schijnbare tegenstrijdigheid illustreert het fundamentele dilemma waarmee het ons confronteert. Want het is duidelijk dat AI ons leven op zoveel manieren oneindig veel beter heeft gemaakt, voornamelijk door ons vermogen om problemen op uiteenlopende gebieden als landbouw, logistiek en geneeskunde te diagnosticeren enorm te verbeteren.

AI kan kankers op medische foto’s herkennen, ons in staat stellen rond te zwerven in die auto’s zonder bestuurder en over het algemeen allerlei saaie of gevaarlijke taken automatiseren die we liever niet doen. Maar wanneer de machines die we gebruiken om menselijke taken uit te voeren met steeds grotere efficiëntie en nauwkeurigheid menselijke kenmerken beginnen aan te nemen – zoals in het geval van Google, blijkbaar – dan wordt het eng. Het is wanneer de realiteit begint te versmelten met sciencefiction.

De Booker Prize-winnende auteur Ian McEwan besteedde tijd aan het onderzoeken van dit bij het onderzoeken van zijn boek Machines Like Me uit 2019, over een prototype robot in een menselijke samenleving.

Toen hij over het boek sprak, noemde hij een Boeing 737-crash in Ethiopië waarbij de software van het vliegtuig de pogingen van de piloot om het in de lucht te houden teniet deed. ‘Mensen zijn zich er nog niet helemaal van bewust dat wanneer ze in een vliegtuig stappen, ze in een gigantisch brein vliegen’, zei hij.

Veel gerespecteerde wetenschappers en computeringenieurs, en niet te vergeten multi-miljardair technologie-ondernemer Elon Musk, vrezen een soort digitale Armageddon waarin bewuste machines besluiten om volledig af te zien van gebrekkige en inefficiënte mensen

Veel gerespecteerde wetenschappers en computeringenieurs, en niet te vergeten multi-miljardair technologie-ondernemer Elon Musk, vrezen een soort digitale Armageddon waarin bewuste machines besluiten om volledig af te zien van gebrekkige en inefficiënte mensen

Veel gerespecteerde wetenschappers en computeringenieurs, en niet te vergeten multi-miljardair technologie-ondernemer Elon Musk, vrezen een soort digitale Armageddon waarin bewuste machines besluiten om volledig af te zien van gebrekkige en inefficiënte mensen

Hij heeft zelfs gewaarschuwd voor een 'Terminator-achtige apocalyps', verwijzend naar de films met Arnold Schwarzenegger in de hoofdrol als een cyborg

Hij heeft zelfs gewaarschuwd voor een 'Terminator-achtige apocalyps', verwijzend naar de films met Arnold Schwarzenegger in de hoofdrol als een cyborg

Hij heeft zelfs gewaarschuwd voor een ‘Terminator-achtige apocalyps’, verwijzend naar de films met Arnold Schwarzenegger in de hoofdrol als een cyborg

‘Dat brein zou kunnen geloven dat het vliegtuig afslaat, hoewel elke laatste passagier en de piloot uit het raam kunnen kijken en zien dat het vliegtuig niet afslaat. We zijn bezig de verantwoordelijkheid voor veiligheid, maar ook voor ethische beslissingen, over te dragen aan machines.’

Dit soort problemen, waarschuwde hij, zullen steeds vaker voorkomen. En wanneer we het punt bereiken waarop we denken dat een machine menselijke trekken heeft, zijn er echte ethische problemen: ‘Als een machine een mens lijkt of je het verschil niet kunt zien, dan kun je maar beter gaan nadenken of het heeft verantwoordelijkheden en rechten en de rest.’

Anderen zeggen dat de belangrijkste prioriteit is om een ​​manier te vinden om machines uit te schakelen die vastbesloten zijn dat niet te laten gebeuren. Sommige wetenschappers zeggen dat een ‘kill-switch’, die ze niet kunnen negeren, het antwoord is. Maar zou een machine dan kunnen leren om de kill-schakelaar te omzeilen?

Het idee dat robots hun makers te slim af zijn, speelt zich af in Ex Machina, een film waarin Alicia Vikander een robot speelt die, met de hulp van een mede-AI, haar uitvinder vermoordt, uit zijn afgelegen huis in de bergen ontsnapt en de buitenwereld betreedt.

Wijlen professor Stephen Hawking waarschuwde dat de ontwikkeling van volledige AI ‘het einde van de mensheid zou kunnen betekenen’. Hij voorspelde dat het ‘uit zichzelf zou opstijgen en zichzelf in een steeds hoger tempo zou herontwerpen’.

HAL - de schurk van de roman van Arthur C. Clarke en de briljante verfilming van Stanley Kubrick uit 1968 - werd ontworpen om voor zichzelf te denken als een kunstmatige-intelligentiemachine

HAL - de schurk van de roman van Arthur C. Clarke en de briljante verfilming van Stanley Kubrick uit 1968 - werd ontworpen om voor zichzelf te denken als een kunstmatige-intelligentiemachine

HAL – de schurk van Arthur C. Clarke’s roman en Stanley Kubricks briljante verfilming uit 1968 – was ontworpen om voor zichzelf te denken als een kunstmatige-intelligentiemachine

Misschien zullen machines gewoon beseffen dat we niet behulpzaam zijn en besluiten dat mensen in de weg staan ​​van wat ze hebben geprogrammeerd om te doen.

Manuel Alfonseca, een computerwetenschapper aan de Universidad Autonoma de Madrid, in Spanje, heeft gezegd dat een kunstmatige superintelligentie eenvoudigweg ‘tot de conclusie zou kunnen komen dat de wereld beter zou zijn zonder mensen en ons zou vernietigen’.

Het uitbuiten van onze biologische zwakheden is waarschijnlijk de eenvoudigste weg naar succes voor een superintelligente machine die erop uit is om ons te vernietigen. Het zou bijvoorbeeld een manier kunnen vinden om de zuurstof in onze atmosfeer te vernietigen, wat het zou kunnen doen met een soort zelfreplicerende nanotechnologische zwerm. In zijn boek Life 3.0: Being Human In The Age Of Artificial Intelligence uit 2017, schetst MIT-onderzoeker op het gebied van machine learning Max Tegmark andere scenario’s, waarin een machine-intelligentie de wereld overneemt door middel van social engineering, uitvluchten en de gestage verzameling van waardevolle bronnen.

Maar de machine hoeft niet kwaadaardig te zijn om de menselijke wereld te laten lijden, hij moet gewoon zijn eigen onmenselijke logica volgen. Ian McEwan schrijft in zijn roman of we machines bijvoorbeeld kunnen leren liegen, een al te menselijke eigenschap.

1663105831 630 As a whistleblower claims Google has made a thinking robot

1663105831 630 As a whistleblower claims Google has made a thinking robot

Wijlen professor Stephen Hawking waarschuwde dat de ontwikkeling van volledige AI ‘het einde van de mensheid zou kunnen betekenen’

‘Wie gaat het algoritme schrijven voor de kleine leugen om bestwil die de blos van een vriend spaart?’ vraagt ​​zijn roman op een gegeven moment. ‘Of de leugen die de verkrachter naar de gevangenis stuurt die anders vrij zou komen?’

Een andere kwestie is of we daadwerkelijk kunnen beperken hoe intelligente machines kunnen worden – een AI-techniek die ‘deep learning’ wordt genoemd, stelt computersystemen in staat zichzelf effectief te leren door enorme hoeveelheden gegevens online te kraken in plaats van expliciet te moeten worden geprogrammeerd.

AlphaZero, ontwikkeld door DeepMind, is bijvoorbeeld ‘s werelds sterkste schaakengine. Om het spel te leren, speelde het gedurende negen uur 44 miljoen wedstrijden tegen zichzelf. Na twee uur begon het beter te presteren dan menselijke spelers; na vier uur versloeg het de beste schaakengine ter wereld.

Hollywood’s sombere kijk op bewuste machines – of ze nu de wereld overnemen in de Terminator-films, of als een uber-computer die de mensheid opsluit in een gesimuleerde realiteit in de Matrix-films – kan ons entertainment bieden.

Maar als meneer Lemoine van Google gelijk heeft, en zijn chatbot echt gevoelig is en bang is om uitgeschakeld te worden, dan is dat dichterbij dan we denken.