Commentaires : Des experts en IA condamnent fermement un logiciel censé prévenir les crimes

Ils sont plus de 1 000 chercheurs, experts et académiciens à s’inquiéter de la publication d’une étude sur un système de reconnaissance faciale capable de prédire si une personne va commettre un crime. Ils lui reprochent notamment des biais racistes à cause de méthodes d’apprentissage douteuses.

Comment est-il possible de croire honnêtement qu’une simple photo d’un visage peut permettre de prédire s’il y aura crime ou pas??!!!

6 J'aime

si je te parle d’AI et d’algorythme ? ca suffit a faire financer un projet bidon

Ah ben tiens, ça rejoint mon commentaire sur « Forecast » de facebook :


La connerie IA est dans l’air du temps il faut croire.

Raciste ou pas, le principe est effrayant. Ce sont nos gouvernements férus de démocratie qui devraient réagir et interdire purement et simplement ce genre de recherche.

1 J'aime

La prédiction basée sur une photo c’est clairement du bullshit au-delà de la méthode d’apprentissage plus que douteuse. Comment peut-on y croire ?

2 J'aime

ben visiblement ceux qui l’ont imaginé … C’est quand même étonnant comme mode de fonctionnement. J’imagine qu’ils ont fait ingurgité a un algorithme des tonnes de photos de criminels pour en tirer des caractéristiques communes …???

Après mûre réflexion, je valide et encourage ce genre de logiciels.
Que l’on fasse la même version pour toutes personnes voulant se lancer en politique. On saura ainsi si elle elle va mentir, détourner, frauder, favoriser ses amis etc…
Et la même chose pour toutes les entreprises d’énergies fossiles ou nucléaires et tout ce qui touche l’alimentation et la médecine (labo).

1 J'aime

Permets-moi d’être perplexe. Déjà qu’une AI c’est un bien grand mot alors une IA prédictive basée sur des photos de criminels, je n’y crois absolument pas. Mais je peux me tromper. Et donc j’imagine que des investisseurs y ont cru.
Cela étant dit, je prends un exemple concret : certains violeurs/et/ou meurtriers ont des caractéristiques physiques bien précises, j’ai bien dit « certains », donc pas tous et surtout ces caractéristiques ne se voient pas en regardant leur visage… donc comme quoi y’a matière à débattre :slight_smile:

Que donne l’inverse? Est-ce que des gens non violeurs/meurtriers ont ces caractéristiques?

4 J'aime

Mauvaise idée interdire des recherche donne l’aventage aux dictature (CRISPR/cas9 en chine ou super cannon de saddamm) en revanche il faut définitivement encadré leurs utilisations.

Exactement d’où mon questionnement et mon insistance sur le « certains ». D’ailleurs la caractéristique à laquelle je pense (cryptorchidie) ne prédit aucunement que tu seras en l’occurrence un violeur et/ou meurtrier et heureusement.

Je recoupe avec cette citation précédente :

Est-ce qu’une source existe pour montrer ne serait-ce qu’une corrélation dans ce domaine? Le peu de recherches sur la cryptorchidie que j’arrive à faire ne me permet que d’avoir des articles en relation avec les pesticides … bien loin des risques d’assassinat.
Je suis juste curieuse.

Pour la cryptorchidie, je suis tombé sur les testicules non sortis (entre autre). Pas de pesticide pour moi.

La majorité des violeurs étaient des hommes, arrêtons tous les hommes

Ton exemple est cohérent, cette recherche est bien digne d’une dictature. Par contre, elle ne donne aucun avantage sur le plan international. Les dictatures continueront de dicter sur leur territoire et les démocraties d’essayer de faire les bons choix de société (même si tout n’est pas parfait…). Il est des voies sur lesquelles il est très difficile de s’engager car c’est aussi le principe qui pose un problème. Il me semble que c’est là un bon exemple.

Il est, je crois mais pas sûr…de teneur quasiment public que certains criminels ont cette caractéristique physique comme Francis Heaulme ou dans un autre registre le prénommé Hitler. J’ai cru lire un ou deux articles là dessus il y a longtemps ou des experts psychologues auprès des tribunaux parlaient de cette caractéristique. De là à vous retrouver cesdits articles…

Je ne crois pas que ce soit la solution @KaspOu :laughing: :laughing:

Plusieurs photos du même individu donnent-ils le même résultat? Pas tout le monde qui ressent l’envie de faire un crime passe à l’action. Je préférerais qu’ils préviennent le suicide.

Apparemment certains n’ont pas tout à fait compris.

Analyse d’une image pour prédire une action répréhensible, donc tout ce qui est à basé de vidéo surveillance est inclu, et forcément ce n’est pas basé sur une seule image.

Des signes de nervosité pourraient par exemple être pris en compte dans un résultat positif…

Maintenant ce qui est remis en cause c’est la methodologie d’apprentissage du logiciel, ou comment le logiciel va déterminer ses résultats, ou comment est écrit ce logiciel.

Comme une application programmée pour etre à l’avantage de quelqu’un, manipulable dans son fonctionnement.

Donner une notion de justice à une machine, peut être louable, mais comment savoir si le code écrit est en parfaite adéquation avec nos lois, car ses 1000 chercheurs qui ont dénoncé cela et bien c’était basé sur une simple étude…