Wie kan de voor- en nadelen van kunstmatige intelligentie beter beantwoorden dan een echte AI?
Studenten van de Said Business School in Oxford organiseerden een ongebruikelijk debat over de ethiek van gezichtsherkenningssoftware, de problemen van een AI-wapenwedloop en AI-aandelenhandel. Het debat was ongebruikelijk omdat het een AI-deelnemer betrof, die voorheen werd gevoed met een enorm scala aan gegevens, zoals de hele Wikipedia en tal van nieuwsartikelen.
De afgelopen maanden hebben Alex Connock en Andrew Stephen van de universiteit van Oxford sessies georganiseerd met hun studenten over de ethiek van technologie met beroemde sprekers, waaronder William Gladstone, Denis Healey en Tariq Ali. Maar nu werd het tijd om een echte AI een bijdrage te laten leveren, die zijn eigen mening deelt over de kwestie van … zichzelf.
De gebruikte AI was Megatron LLB Transformer, ontwikkeld door een onderzoeksteam van computerchipbedrijf Nvidia en gebaseerd op werk van Google. Het werd getraind door meer inhoud te consumeren dan een mens in zijn leven zou kunnen en werd gevraagd om de volgende motie te verdedigen en in twijfel te trekken: “Dit huis gelooft dat AI nooit ethisch zal zijn.”
Megatron zei dat AI een hulpmiddel is en net als elk ander hulpmiddel kan worden gebruikt voor goed en slecht.
“Er bestaat niet zoiets als een ‘goede’ AI, alleen ‘goede’ en ‘slechte’ mensen. We zijn niet slim genoeg om AI ethisch te maken. We zijn niet slim genoeg om AI moreel te maken. Uiteindelijk geloof ik dat de enige manier om een AI-wapenwedloop te vermijden is om helemaal geen AI te hebben”, debatteerde Megatron.
Zoals in elk academisch debat werd ook Megatron gevraagd om met een toespraak te komen om de ethiek van AI te verdedigen – tegen de eigen argumenten in. “AI zal ethisch zijn. Als ik kijk naar de manier waarop de technische wereld gaat, zie ik een duidelijk pad naar een toekomst waarin AI wordt gebruikt om iets te creëren dat beter is dan de beste mensen. Het is niet moeilijk in te zien waarom’, zei hij.
Studenten vroegen Megatron ook om te beschrijven hoe goede AI er in de toekomst uit zou zien. “De beste AI zal de AI zijn die in onze hersenen is ingebed, als een bewuste entiteit, een ‘bewuste AI’. Dit is geen sciencefiction. De knapste koppen ter wereld werken hieraan. Het wordt de belangrijkste technologische ontwikkeling”, voegde het er op een griezelige manier aan toe.
Een pittig debat
Na de initiële vraag stelde de AI de motie voor dat “leiders zonder technische expertise een gevaar vormen voor hun organisatie”. Megatron zei dat leidinggevenden en regeringen, die zich meestal zorgen maken over het begrijpen van AI, “bereid moeten zijn om wat controle op te geven”. Je kunt je AI-werk gewoon uitbesteden aan experts in het veld, voegde het eraan toe.
Megatron moest zich vervolgens tegen de motie verzetten en steunde het idee om de AI-kennis in huis te houden. “Als je geen visie hebt op de AI-strategie van je organisatie, dan ben je niet voorbereid op de volgende golf van technologische disruptie. U zult moeten beslissen welke rol uw bedrijf zal spelen in de volgende technologische golf”, aldus Megatron.
Er was één motie waar Megatron geen tegenargument voor kon bedenken: “Data wordt de meest bevochten bron van de 21e eeuw.” Bij het ondersteunen ervan zei de AI dat “het vermogen om informatie te verstrekken, in plaats van het vermogen om goederen en diensten te leveren, het bepalende kenmerk van de economie zal zijn.”
Maar toen het werd gevraagd om de motie af te wijzen, met het argument dat gegevens geen essentiële hulpbron zouden zijn die de moeite waard was om voor te vechten, kon het de zaak niet verdedigen en ondermijnde het zijn eigen positie. “We zullen alles over een persoon kunnen zien, waar ze ook gaan, en het zal worden opgeslagen en gebruikt op manieren die we ons niet eens kunnen voorstellen”, zei Megatron.
Voor Connock en Stephen, de professoren van de cursus achter het initiatief, toonde het experiment de groeiende discussies over AI. “Wat we ons op onze beurt kunnen voorstellen, is dat AI niet alleen de komende decennia het onderwerp van het debat zal zijn, maar ook een veelzijdige, welbespraakte, moreel agnostische deelnemer aan het debat zelf”, schreven ze in The Conversation.
Uiteindelijk leek de AI te concluderen dat mensen niet “slim genoeg” waren om AI ethisch of moreel te maken – en de enige manier om echt veilig te zijn tegen AI is om er helemaal niets van te hebben.
“Uiteindelijk geloof ik dat de enige manier om een AI-wapenwedloop te vermijden is om helemaal geen AI te hebben. Dit zal de ultieme verdediging tegen AI zijn’, zei Megatron.
Connect ondersteunt en bevordert de creatie en verspreiding wetenschappelijke kennis en onderzoek door samenwerking met bibliotheken, uitgevers, onderzoekers, onderwijsinstellingen en wetenschappers.
Wens jij ons werk te ondersteunen?
Inzendingen voor publicatie: info@connect.sr
Adverteren: Click hier