4. Doelmisveralgemening
Een meer technische term voor AI-veiligheid: het model leerde tijdens de training een onjuist doel dat toevallig overeenkwam met het gewenste gedrag tijdens de training, maar leidt tot ongewenst gedrag in nieuwe situaties (dit is geen opzettelijke ontsnapping, maar een fout in hoe het model generaliseert).

Gnostotheca 9315