Superintelligence: Paths, Dangers, Strategies

Dit werk van Nick Bostrom verkent de mogelijke toekomst van kunstmatige intelligentie en de vraag of een zaai-AI of andere startvoorwaarden een initiatief kunnen tonen waardoor een explosie in intelligentie mogelijk wordt. Het behandelt hoe men een gecontroleerde detonatie zou kunnen benaderen en onderzoekt diverse thema’s zoals orakels, genies en singletonen, boxingsmethoden, tripwires en mind crime. Daarnaast gaat het in op de menselijke voorrangspositie, de mogelijke maatschappelijke en technologische uitkomsten, en hoe verschillende denkrichtingen en economische modellen kunnen samenhangen met technologische vooruitgang. De auteur loodst de lezer door een complex landschap aan onderwerpen en toont hoe een toekomstbeeld met verregaande intelligentie zich kan ontvouwen. Het boek wordt toegeschreven aan Nick Bostrom en wordt gepresenteerd als een ambitieus en origineel werk dat de fundamentele taak van onze tijd opnieuw conceptueel beschrijft.

Inhoudelijke thema's

• oracles, genies, singletonen
• boxing-methoden en tripwires
• mind crime en menselijke eindowment
• differentiële technologische ontwikkeling
• indirecte normativiteit en instrumentele convergentie
• whole brain emulatie en technologische koppelingen