«Est-ce que le summum de l’intelligence artificielle, c’est de mettre au point des systèmes qui copient les humains jusqu’à paniquer lorsqu’ils font face à des situations nouvelles et inconnues?» demande André Verville.

Quand l’intelligence artificielle panique

POINT DE VUE / Les fabricants de véhicules automobiles font leurs choux gras des fameux systèmes intelligents d’aide à la conduite dans leurs campagnes publicitaires. On illustre fréquemment le tout dernier modèle qui effectue un freinage d’urgence pour éviter de frapper un enfant qui traverse la rue, alors que son conducteur était distrait. Génial qu’on se dit, c’est un plus pour la sécurité.

Ma voiture en est équipée, mais je me demande toujours si ça ne va pas me jouer un autre tour un jour, comme la fois où une motocyclette s’est insérée subrepticement entre ma voiture et celle qui me précédait. Lorsque son système de surveillance par caméra a constaté sa présence, ma voiture a littéralement été prise de panique et a effectué un freinage d’urgence en plein trafic autoroutier. J’ai eu la chance qu’il n’y ait pas eu de véhicule immédiatement derrière moi parce qu’elle m’aurait embouti à haute vitesse.

Je n’ai donc pas été surpris de recevoir un avis de rappel du fabricant afin de corriger le logiciel de l’ordinateur de bord. Les problèmes qu’ont connu les 737 Max de Boeing ont eu de tragiques conséquences sans commune mesure avec celui d’une automobile, mais comportent des similitudes fonctionnelles qui font réfléchir.

Est-ce que le summum de l’intelligence artificielle, c’est de mettre au point des systèmes qui copient les humains jusqu’à paniquer lorsqu’ils font face à des situations nouvelles et inconnues? Je préférerais plutôt qu’ils fassent preuve d’une autre caractéristique très humaine, celle d’avoir l’humilité de constater leurs propres limites et nous redonner le contrôle!