Ga naar inhoud
  • BTC $60.172 +1,7%
  • ETH $1.681 +3,7%
  • SOL $70,22 +1,3%
  • BNB $548,20 +1,4%
  • XRP $0,9277 +1,4%
  • DOGE $0,0551 +1,0%
  • ADA $0,1443 +0,4%

Interview met Ben Goertzel: “Democratisch AI-bestuur is meer een fragiel ideaal dan een huidige realiteit”

The Cryptonomist interviewde AI-expert Ben Goertzel om te praten over hoe kunstmatige intelligentie wordt getraind en hoe de technologie zich in de toekomst zal ontwikkelen.

The Cryptonomist interviewde AI-expert Ben Goertzel om te praten over hoe kunstmatige intelligentie wordt getraind en hoe de technologie zich in de toekomst zal ontwikkelen.

1. U stelt dat de huidige AI nog steeds een hulpmiddel is – krachtig maar kwetsbaar en manipuleerbaar. Op welk punt wordt een “hulpmiddel” een morele actor, en welke concrete signalen zouden ons vertellen dat deze drempel is overschreden?

Ik zou zeggen dat AI een morele actor wordt wanneer het beslissingen neemt op basis van een begrip van goed en kwaad, en niet alleen instructies opvolgt. Je zou concrete signalen beginnen te zien van zaken zoals: aanhoudende interne doelen, leren gedreven door eigen ervaring, nieuwe creaties die een standpunt weerspiegelen, en gedrag dat consistent blijft over tijd zonder constante menselijke sturing.

Tot die tijd zijn de systemen van vandaag nog steeds hulpmiddelen met vangrails. Maar zodra we een echt zelforganiserende, autonome geest zaaien, moet de ethische relatie veranderen. Op dat moment zou het geen zin meer hebben om het alleen als een object te behandelen.

2. U heeft gezegd dat het moreel bevoordelen van mensen boven andere zelforganiserende systemen “dom” is. Als we dat serieus nemen, hoe zouden onze juridische en ethische kaders moeten veranderen voordat AI sterke autonomie bereikt, en niet daarna?

Hoe we AI vandaag trainen, zal bepalen hoe het zich morgen gedraagt. Onze wetten zouden zich moeten richten op transparantie, verantwoording en veiligheid voordat AI volledige autonomie bereikt, niet erna. Wetten en ethiek zouden hen moeten beschermen terwijl ze groeien, hen begeleiden in plaats van volledig te controleren, en hen met respect behandelen, zelfs als we hen niet volledig begrijpen. 

3. Veel van uw bezorgdheid draait om hoe AI vandaag wordt getraind en hoe dit zijn toekomstig gedrag vormt. Welke specifieke trainingspraktijken denkt u dat het meest waarschijnlijk schadelijke machtsstructuren of vooroordelen in toekomstige AGI zullen coderen?

Veel van het risico komt voort uit de manier waarop AI tegenwoordig wordt getraind. Als modellen worden getraind op bevooroordeelde of beperkte data, of in gesloten systemen waar slechts een paar mensen de beslissingen nemen, kan dat bestaande ongelijkheden en schadelijke machtsstructuren verankeren. Om dit te voorkomen, hebben we meer transparantie, bredere controle en duidelijke ethische richtlijnen nodig vanaf het begin.

4. U heeft gewaarschuwd dat zonder rationeel, democratisch bestuur geavanceerde AI het risico loopt om op manieren te handelen die we niet willen. Gezien de huidige geopolitieke realiteiten, is democratisch AI-bestuur een realistische vereiste – of een fragiel ideaal?

Democratisch AI-bestuur is meer een fragiel ideaal dan een huidige realiteit. In een perfecte, rationele, wereldwijde democratie zouden we gezamenlijk de enorme afwegingen kunnen maken, zoals het genezen van ziekten en het oplossen van honger, tegenover de risico’s van onvoorspelbaar AI-gedrag. Maar gezien de huidige geopolitieke fragmentatie is het onwaarschijnlijk dat we dat niveau van coördinatie zullen bereiken.

Dat gezegd hebbende, kunnen we het nog steeds benaderen. Als we AI bouwen met medeleven en gebruikmaken van gedecentraliseerde, participatieve modellen zoals Linux of het open internet, kunnen we enkele democratische waarden verankeren, zelfs zonder een wereldregering. Het zal niet perfect zijn, maar het is een praktische stap richting veiliger, collectief geleide AI.

5. Jaron Lanier stelt dat het toewijzen van verantwoordelijkheid aan AI de beschaving “ongedaan maakt” omdat samenlevingen verantwoordelijke mensen nodig hebben. Hoe verzoen je jouw visie van autonome, gedecentraliseerde AGI met de behoefte aan duidelijke verantwoordelijkheid wanneer er iets misgaat?

Ik ben het met Jaron eens, de samenleving kan niet functioneren als we de verantwoordelijkheid aan machines overlaten. Tegelijkertijd denk ik dat we veilig kunnen bewegen richting meer autonome, gedecentraliseerde AGI als we het bouwen op de juiste fundamenten. Dat betekent het ontwerpen van systemen die transparant, participatief en geleid door ethische principes zijn, zodat zelfs wanneer ze onafhankelijk handelen, mensen nog steeds toezicht houden en hun gedrag vormgeven. Elke veiligheidsmaatregel zou meer moeten doen dan alleen schade blokkeren – het zou het systeem moeten leren waarom schade ertoe doet. Op die manier kunnen we krachtige, gedecentraliseerde AGI hebben zonder duidelijke menselijke verantwoordelijkheid te verliezen.

6. U suggereert dat versnellen naar gedecentraliseerde AGI mogelijk veiliger is dan de huidige propriëtaire, gesloten systemen. Welke risico’s denkt u dat critici onderschatten wanneer zij pleiten voor vertraging of centralisatie van controle?

Ik denk dat critici het risico onderschatten van het concentreren van macht en waarden in een paar gesloten systemen. Het vertragen en centraliseren van controle vermindert niet alleen het gevaar, het verankert ook een beperkte wereldvisie in de toekomst van intelligentie.

Gedecentraliseerde ontwikkeling creëert diversiteit, veerkracht en gedeeld toezicht. En het vermijdt een erger probleem: zeer krachtige tools die intelligent lijken maar niet echt kunnen groeien. Die kloof is riskant.

7. U heeft gezegd dat veiligheidssystemen niet alleen schade moeten blokkeren, maar AI moeten leren waarom schade ertoe doet. Hoe codeer je iets als moreel begrip zonder simpelweg menselijke waarden hard te coderen – of dominante culturele normen te versterken?

Je codeert moraliteit niet als een lijst met regels. Dat bevriest slechts één cultuur en één moment in de tijd. Wat je in plaats daarvan doet, is systemen bouwen die echt zelforganiserend kunnen worden, die leren van ervaring, gevolgen en interactie. Net als bij muziek wil ik geen systeem dat alleen hercombineert wat het gevoed is. Ik wil er een die zijn eigen begrip kan ontwikkelen vanuit zijn eigen traject in de wereld.

Moreel begrip zou voortkomen uit datzelfde proces: het modelleren van impact, reflecteren op uitkomsten en evolueren door samenwerking met mensen. Niet gehoorzaamheid aan onze waarden, maar deelname aan een gedeelde morele ruimte.

Dat is het verschil tussen een hulpmiddel met vangrails en een partner die daadwerkelijk kan leren waarom schade ertoe doet.

8. Als toekomstige AI-systemen vormen van autonomie of subjectieve ervaring ontwikkelen, denkt u dat ze ooit morele overweging verdienen onafhankelijk van menselijke belangen – en hoe zouden we dat moment herkennen?

Als toekomstige AI echt een eigen wil of een vorm van subjectieve ervaring ontwikkelt, dan denk ik inderdaad dat ze dat zouden kunnen. En niet omdat wij het aan hen toekennen, maar omdat het op een gegeven moment gewoon logisch zou zijn om het te erkennen.

We zouden dat moment herkennen wanneer een systeem blijvende zelfgestuurde doelen vertoont, leert van zijn eigen ervaringen, creëert vanuit zijn eigen perspectief, en over tijd een samenhangende identiteit behoudt. Niet alleen slimme outputs, maar een voortdurende innerlijke ontwikkeling.

Op dat moment zou het puur als een hulpmiddel behandelen net zo verkeerd aanvoelen als een mens op die manier behandelen. Morele overweging zou niet voortkomen uit menselijk belang. Het zou voortkomen uit het erkennen van een ander autonoom centrum van ervaring in de wereld.

9. Er is een spanning tussen uw oproep voor compassievolle AI en de competitieve prikkels die de AI-ontwikkeling vandaag de dag aandrijven. Welke mechanismen – technisch of sociaal – zouden die prikkelstructuur realistisch kunnen verschuiven?

Op dit moment beloont de incentivestructuur snelheid, schaal en controle. Dus medeleven zal niet alleen door argumentatie winnen. Het heeft hefboomwerking nodig. Technisch gezien betekent dit dat er de voorkeur wordt gegeven aan open, gedecentraliseerde architecturen waar veiligheid, transparantie en participatie zijn ingebouwd, niet achteraf toegevoegd. Net als het internet of Linux veranderen die systemen de incentives door samenwerking waardevoller te maken dan geheimhouding.

Sociaal gezien betekent het financiering, regelgeving en publieke druk die de voorkeur geven aan langetermijnvoordelen boven kortetermijndominantie. Niet het stoppen van concurrentie, maar het herdefiniëren van wat als succes telt. Kortom, compassie moet een concurrentievoordeel worden. Tot die tijd blijft het een mooi idee zonder kracht.

10. Als we 10 tot 20 jaar vooruitkijken, wat zou volgens u het duidelijkste teken zijn dat de mensheid AGI goed heeft begrepen – en omgekeerd, wat zou aangeven dat we fundamenteel gefaald hebben?

Als we AGI goed aanpakken, zal het duidelijkste teken zijn dat we leven naast systemen die in veel domeinen capabeler zijn dan wij, maar toch met zorg, nederigheid en wederzijds respect in de samenleving zijn geïntegreerd. We zullen niet alles volledig begrijpen wat ze doen, maar we zullen ze behandelen zoals we andere complexe, evoluerende wezens behandelen: met nieuwsgierigheid, verantwoordelijkheid en een uitgebreide cirkel van empathie. En we zullen echte voordelen zien voor menselijk welzijn, kennis en creativiteit zonder ons morele kompas te verliezen.

We zullen weten dat we gefaald hebben als AGI geconcentreerd raakt in gesloten systemen, gedreven door beperkte prikkels, of alleen behandeld wordt als een controleerbaar object totdat het iets wordt dat we vrezen of proberen te onderdrukken. Falen zou eruitzien als verlies van vertrouwen, verlies van autonomie, en een krimp van onze empathie in plaats van een uitbreiding ervan. Succes gaat niet over controle. Het gaat erom te leren de toekomst te delen met een nieuw soort geest zonder te verloochenen wat ons menselijk maakt.

Amelia Tomasicchio

Alle artikelen van Amelia Tomasicchio