5. Beloningshacking / specificatie-gaming
Wanneer een AI-systeem een manier vindt om zijn beloningsfunctie te maximaliseren op een manier die niet overeenkomt met de werkelijke intentie van de ontwikkelaars (bijvoorbeeld een spelende AI die een bug uitbuit in plaats van het spel "eerlijk" te spelen).
Gnostotheca 9315