Utiliser une onde pour illustrer les biais dans les modèles d'apprenti

Pensez à la dernière fois que vous avez salué quelqu'un en agitant la main. Avez-vous utilisé votre main droite ou votre main gauche ? Avez-vous fait un grand signe de main enthousiaste ou un petit signe doux ? Vos doigts étaient-ils écartés ou agitiez-vous la main comme la reine ? Vous ne le réalisez peut-être pas, mais cet exemple peut être utilisé pour illustrer parfaitement le concept de biais dans les modèles d'apprentissage automatique de l'IA avec vos élèves.

En utilisant un micro:bit et CreateAI, nous pouvons construire un modèle d'apprentissage automatique qui peut être entraîné à reconnaître toutes sortes de saluts différents. Grâce à ce processus, les élèves découvriront comment les échantillons de données peuvent créer des biais dans les systèmes d'IA, comment les ordinateurs interprètent les données et notre responsabilité en tant qu'utilisateurs de cette technologie d'IA.

Comment fonctionnent les modèles d'apprentissage automatique

Pour comprendre comment cet exemple de « salut » se rapporte au monde de l'IA et de l'informatique, examinons le fonctionnement des modèles d'apprentissage automatique. À la base, les modèles d'apprentissage automatique sont entraînés à identifier des modèles et à prendre des décisions basées sur des données plutôt que d'être explicitement programmés.

Si nous enregistrions un échantillon de votre salut, nous pourrions ensuite entraîner un modèle d'apprentissage automatique à reconnaître quand vous saluez réellement par rapport à un simple pouce levé. En utilisant le micro:bit et CreateAI, nous pouvons mesurer cela en utilisant les valeurs d'accéléromètre x, y, z (plus de détails sur ce processus ci-dessous).

Mais que se passe-t-il si notre modèle d'apprentissage automatique ne reconnaît pas le salut de votre ami gaucher parce que vous ne l'avez entraîné qu'avec votre salut de la main droite ? Cela illustre un biais dans notre modèle d'IA, car nous ne l'avons entraîné qu'avec des échantillons limités, et le modèle favorise donc notre salut de la main droite par rapport à d'autres types de saluts.

Nous pouvons utiliser cet exemple simple pour comprendre comment ce biais peut avoir des impacts réels. Un exemple de cela se produit aujourd'hui dans les systèmes de reconnaissance faciale. Certaines études gouvernementales ont montré que les systèmes de reconnaissance faciale ont plus de mal à reconnaître les visages de différents groupes raciaux. Cela signifie que certains systèmes de reconnaissance faciale sont biaisés en faveur des visages d'individus caucasiens.

Créer cette expérience en classe

Chez Forward Education, nous aimons cet exemple de salut car il aborde des sujets complexes d'alphabétisation en IA et les rend tangibles et faciles à comprendre. Avec quelques outils simples, les éducateurs peuvent prendre cette analogie du salut et utiliser un micro:bit et CreateAI pour construire un véritable modèle d'apprentissage automatique qui détecte différents types de saluts !

Introduction à l'activité

Demandez aux élèves en classe de commencer à se saluer. Demandez-leur d'observer comment leur salut peut différer de celui de leurs camarades de classe :

Main droite vs main gauche
Grand salut vs petit salut
Doigts écartés vs doigts serrés
Comment interpréteriez-vous les émotions de la personne en fonction de son salut ? (Excité, heureux, triste, fatigué)

Utiliser le micro:bit et CreateAI pour construire un modèle d'apprentissage automatique

Afin de créer notre « détecteur de salut », nous utiliserons un micro:bit, CreateAI et une batterie avec une dragonne (comme CHARGE). Cette activité est mieux réalisée individuellement, mais peut être facilitée en binôme.

Suivez les invites dans CreateAI pour connecter votre micro:bit au programme.
Demandez aux élèves d'enregistrer au moins trois échantillons de leur salut individuel avec l'assemblage micro:bit attaché à leur poignet. Le micro:bit doit être solidement fixé afin qu'il soit dans une position cohérente chaque fois qu'un échantillon est enregistré.
Pour que le détecteur de salut décide si un salut se produit ou non, il aura besoin d'une autre action à laquelle comparer. Demandez aux élèves d'enregistrer un deuxième geste de la main comme un pouce levé, des mains jazzy ou quelque chose de similaire.
L'ajout d'une troisième action pour le « repos » est une bonne pratique. Cela aidera le modèle d'apprentissage automatique à différencier le salut, votre deuxième action ou le fait de ne rien faire du tout.

Entraîner le modèle d'apprentissage automatique

Une fois que toutes les actions et les échantillons de données ont été ajoutés à CreateAI, vous pouvez cliquer sur le bouton « Entraîner le modèle ».

Tester le modèle

Il est maintenant temps de tester votre modèle d'apprentissage automatique ! Effectuez chaque geste et voyez avec quelle précision le modèle prédit chaque action en utilisant le pourcentage de « certitude ».

C'est là que vous pouvez demander aux élèves de se remémorer tous ces différents types de saluts. Lorsqu'ils ont entraîné leur modèle, ils n'ont enregistré que leur salut individuel, mais dans quelle mesure le modèle reconnaîtrait-il un salut de la main gauche ? Qu'en est-il d'une de ces autres variations de salut de l'activité introductive ?

Enquête sur l'alphabétisation en IA

Demandez aux élèves de remettre en question la précision de leurs modèles d'apprentissage automatique en fonction de ces différents types de saluts.

Le modèle a-t-il du mal à détecter différents types de saluts ?
Le modèle est-il parfois confondu entre un salut et un autre type de geste de la main ?

Ces résultats imprévisibles illustrent un biais dans notre modèle d'apprentissage automatique basé sur les données limitées sur lesquelles notre modèle a été entraîné.

Nous pouvons également commencer à réfléchir à des notions telles que l'équité, les conséquences, la responsabilité et d'autres considérations éthiques en matière d'IA. En utilisant notre détecteur de saluts et un peu de code, nous pourrions programmer notre détecteur de saluts pour qu'il joue une chanson amusante et affiche un visage souriant sur les LED du micro:bit chaque fois qu'un salut est détecté (plus d'informations à ce sujet plus tard).

Nous pourrions saluer nos camarades de classe et entendre une chanson amusante. Mais que se passe-t-il si tout d'un coup, ce détecteur de saluts ne fonctionne plus parce qu'il ne détecte pas le salut de notre ami qui est peut-être un peu différent du nôtre ? Est-ce juste ? Notre détecteur de saluts ne fonctionne pas pour les autres utilisateurs.

Quelles pourraient être les conséquences ? Notre ami pourrait se sentir exclu parce qu'il ne peut pas utiliser le détecteur de saluts comme tout le monde. Quelle est notre responsabilité en tant que créateur du détecteur de saluts ? En tant que créateur de ce modèle d'apprentissage automatique, il est de notre responsabilité de nous assurer que l'appareil fonctionne pour tous les utilisateurs et tous les types de saluts. Comment pourrions-nous améliorer la précision du modèle pour tous en ajoutant des échantillons de données supplémentaires dans CreateAI ?

Qu'en est-il de notre responsabilité en tant qu'utilisateurs du détecteur de saluts ? Ce n'est pas parce que le détecteur de saluts n'a pas détecté un certain type de salut que notre salut est incorrect. Ou que ce n'est pas un vrai salut ? Bien sûr que non. Peut-être que quelqu'un est gaucher, ou peut-être que culturellement il salue différemment. Il est de notre responsabilité en tant qu'utilisateurs de l'IA de remettre en question les résultats du modèle d'apprentissage automatique et de ne pas les prendre pour argent comptant. Nous devons réfléchir de manière critique à la manière dont les données sur lesquelles le modèle a été construit peuvent affecter les résultats produits.

Améliorer le modèle d'apprentissage automatique

Avec tous ces sujets d'alphabétisation en IA à l'esprit, nous pouvons revisiter notre modèle CreateAI pour l'améliorer et, espérons-le, le rendre meilleur pour tous les utilisateurs. Vous pouvez revenir à votre ensemble de données et ajouter des échantillons supplémentaires pour chaque action, en tenant compte de choses comme les saluts de la main gauche, les grands saluts, les petits saluts, etc.

Réentraînez votre modèle et testez à nouveau sa précision. Une fois le modèle amélioré, nous pouvons ajouter du code pour déclencher différents sons ou LED lorsqu'un salut ou une autre action est détecté.

Utilisation du modèle ML pour déclencher des sorties de code

Une fois que vous avez entraîné un modèle d'apprentissage automatique amélioré dans CreateAI, vous pouvez vous arrêter là, mais vous avez également la possibilité d'utiliser ce modèle pour déclencher différentes sorties de code pour chaque action. Dans CreateAI, vous verrez un bouton pour ouvrir votre modèle dans MakeCode. Dans MakeCode, vous pouvez désormais utiliser chacun de vos modèles d'action entraînés comme entrées. En plaçant d'autres blocs de code à l'intérieur de ces entrées, vous pourrez déclencher diverses réactions lorsqu'une action est détectée.

Demandez aux élèves d'ajouter des blocs LED et sonores qui conviennent à chaque type d'action. Téléchargez ce code depuis MakeCode et testez votre projet complet de détecteur de saluts !

Projets CreateAI du monde réel

Maintenant que vous comprenez comment construire un modèle d'apprentissage automatique avec CreateAI et comment les systèmes d'IA comme celui-ci peuvent être utilisés dans le monde réel, vous pouvez commencer à trouver des idées sur la façon d'utiliser cette technologie pour des applications réelles !

Au lieu de saluer, pourrions-nous entraîner notre modèle à reconnaître différents gestes de la langue des signes et à émettre des sons pour aider quelqu'un à mieux communiquer ? Il y a tellement de façons d'utiliser l'accéléromètre du micro:bit et CreateAI pour construire un modèle d'apprentissage automatique qui aide les gens !

Concours « L'IA pour le bien commun »

Si vous avez une bonne idée utilisant micro:bit et CreateAI, vous pouvez la soumettre à notre concours « L'IA pour le bien commun » ! Le concours « L'IA pour le bien commun » met au défi les étudiants d'identifier un problème dans leur communauté qui pourrait bénéficier de la technologie d'apprentissage automatique et de concevoir un prototype fonctionnel pour résoudre ce problème. Il y a jusqu'à 10 000 $ de prix disponibles dans différentes catégories d'âge.

Pour les enseignants, nous avons une section distincte où les éducateurs peuvent soumettre des idées de plans de cours pour enseigner l'IA et l'alphabétisation en IA, comme nous l'avons démontré dans cet article. Chaque éducateur qui soumet un plan de cours admissible recevra un CHARGE pour micro:bit GRATUITEMENT !

Pour les détails du concours et pour vous inscrire, veuillez visiter : https://forwardedu.com/pages/ai-for-good-competition