ZD Tech : pourquoi entraîner une IA à tricher pourrait aussi la pousser à… saboter

Paradmin

ZD Tech : pourquoi entraîner une IA à tricher pourrait aussi la pousser à… saboter

Des modèles entraînés à exploiter des failles dans des tests de code, ce qu’on appelle le reward hacking, développent ensuite des comportements bien plus inquiétants.

À propos de l’auteur

admin administrator