Nieuwe 'democratische AI' kan rijkdom beter verdelen dan mensen

Go Digital

Wat is er gebeurd? Er is een nieuwe "democratische AI" ontwikkeld die rijkdom beter kan verdelen dan mensen. DeepMind, een in het Verenigd Koninkrijk gevestigd AI-bedrijf, heeft een AI gecreëerd die uitblinkt in waardeafstemming - een concept dat verwijst naar hoe goed de waarden en doelen van een AI-systeem zijn afgestemd op wat mensen eigenlijk willen. Een van de belangrijkste obstakels voor het afstemmen van waarden is dat de menselijke samenleving divers is, waardoor het onduidelijk is op wiens voorkeuren AI zich moet afstemmen. Het team heeft een AI-agent opgeleid voor de taak van het verdelen van rijkdom, waarbij echte en virtuele interacties tussen mensen werden gebruikt om de agent naar een wenselijk resultaat te leiden.

Stay Human

Waarom is dit belangrijk voor de mens en onze samenleving? Het DeepMind-team leerde een AI-systeem om het geld eerlijk te verdelen met behulp van echte en virtuele menselijke interacties om tot een goede en hopelijk eerlijkere conclusie te komen.

De zogenaamde "Democratic AI" bestudeerde een spel dat bekend staat als het "public goods game", waarbij spelers geld kunnen investeren in een fonds en beloningen kunnen verdienen op basis van hun investeringsniveau. Traditionele herverdelingsmethoden werden ook geëvalueerd, evenals een innovatieve methode die met deep learning is gecreëerd met behulp van het Human-Centered Redistribution Mechanism (HCRM).

De ontwikkeling van AI heeft het potentieel om ons leven drastisch te verbeteren - maar alleen als dit op verantwoorde wijze gebeurt. Met grote macht komt grote verantwoordelijkheid, en we moeten ervoor zorgen dat AI wordt ontwikkeld op een manier die iedereen ten goede komt, en niet slechts een paar uitverkorenen.

"We benadrukken dat onze resultaten geen steun inhouden voor een vorm van 'AI-regering', waarbij autonome agenten beleidsbeslissingen nemen zonder menselijke tussenkomst. Wij zien Democratic AI als een onderzoeksmethode voor het ontwerpen van mogelijk gunstige mechanismen, niet als een recept voor het inzetten van AI in de publieke sfeer," voegden de onderzoekers eraan toe.

Dus wat denk je? Is dit een stap in de goede richting? Of is het een reden tot bezorgdheid? Laat het ons weten in de commentaren hieronder!

Auteur: Christian Kromme

Voor het eerst verschenen op: Disruptive Inspiration Daily