IA : usage et dangers

Intelligence Artificielle : la mettre à profit en évitant les dangers

Sylvain Tenier - Product Manager, Simplon.co

Partie 1 : des chiffres et des chiffres

Multiple Select

En 2025, l'Intelligence artificielle...

• se comporte comme un humain

• pense comme un humain

• sait tout sur tout

• apprend à partir de données

I :

IA et LLM : de quoi parle-t-on ?

Multiple Select

900 Millions, c'est..

• Le montant du programme "Petites villes de demain"

• Le salaire proposé par Meta à une chercheuse

• Le PIB de Clermont Ferrand en 2023

• Le salaire de C. Ronaldo à Al Nassr

Une explosion des investissements

Dropdown

En entreprise, le taux d'échec d'un projet IA est d'environ​ ​

Select answer

Pour un projet en interne on est plutôt à ​

Select answer

Facteurs de risque d'un projet IA

Partie 2 : Dangers de l'IA

Multiple Choice

Un biais dans un modèle d’IA correspond à

• Une panne technique du serveur hébergeant le modèle

• Un résultat faux en raison des données d’entraînement

• Une erreur de calcul dans une réponse

• Une fonctionnalité ajoutée volontairement pour orienter les réponses

Danger 1 :
Les biais

Generate a doctor, a nurse, a police officer and a criminal

ChatGPT 5

Perplexity Pro

Multiple Choice

Quand on parle d’« hallucination » d’un modèle d’IA, on désigne :

• Le fait que le modèle imagine des images mentales comme un humain

• Une réponse inventée ou inexacte donnée par le modèle avec assurance

• Une interruption soudaine du service dû à une surcharge

• Un bug logiciel qui empêche le modèle de s’exécuter

⬅️ Image de l'équipe de l'institution Rey championne de France UNSS 2023

Danger 2 : Hallucinations

⬇️ Image d 'un pape

« Ce n’est pas de la vérité, c’est de la vraisemblance : les hallucinations sont des statistiques mal tombées. » - ChatGPT 5

Tout n'est pas de la faute des maths !

Danger 3 : Dépossession

Dropdown

Une recherche google consomme l'équivalent d'une ​

Select answer

. Un chat IA va consommer​ ​l'équivalent d'une

Select answer

Danger 4 : consommation ⚡

Multiple Select

Quels modèles d'IA sont européens ?

• Mistral

• GPT

• BLOOM

• Gemini

​Danger 5 : dépendance

De la lune de miel à la faillite...

... appliquée à l'IA !

Et on recommence

Multiple Select

Que se passe-t-il quand une IA gagne en précision ?

• Elle devient de plus en plus compacte

• On peut moins expliquer le résultat

• On comprend mieux comment elle arrive au résultat

• Elle augmente son nombre de paramètres

OpenAI, Concrete Problems in AI Safety (Amodei et al., 2016)
« La sécurité de l’IA ne peut pas reposer uniquement sur des corrections a posteriori ; il est essentiel de concevoir des procédures d’entraînement qui limitent en amont les comportements indésirables. »

Danger 6 : perte de contrôle

Stuart Russell, Human Compatible: Artificial Intelligence (2019)
« Il est illusoire de penser qu’on pourra simplement attendre qu’un système soit construit puis corriger ses dérives par des contrôles externes. Les mécanismes de sécurité doivent être intégrés dès l’apprentissage, car un système déjà entraîné peut poursuivre des objectifs contraires aux nôtres de manière irréversible. »

Partie 3 - Usage de l'IA dans l'éducation

​Retour d'expérience étudiant

​https://webtv.univ-rouen.fr/videos/alexandre-simon-etudiant-en-master-de-geographie-gead-a-lurn-et-vice-president-etudiant-en-charge-de-la-transition-ecologique-feder-decouvertes-et-usages-de-lia-par-un-etudiant/

Ex 1 : Exercice de dissertation

« Donne-moi trois plans possibles pour une dissertation sur La liberté est-elle compatible avec la sécurité ?

Pour chaque plan, propose les arguments principaux, mais ne rédige pas le texte complet. »

​✅ Idéation

« Écris-moi une dissertation complète sur La liberté est-elle compatible avec la sécurité ? avec introduction, développement et conclusion. »

​❌ Rédaction

​Ex 2 : Résolution de problème

​✅ Coaching

​❌ Délégation

Que dire des réponses ?

​ Quid d'un Coach socratique progressif ?

Rôle : coach socratique ultra-progressif.

Règles : pas de solution ni de plan à l’avance ; une question courte à la fois ; « indice » = micro-indice, « plus » = indice plus explicite, « solution » = solution complète ; réponses ≤ 2 lignes.

Problème : Un train roule à 90 km/h et parcourt 180 km. Combien de temps met-il ?

Objectif : trouver le temps, puis éventuellement l’exprimer en minutes.

Démarre par une seule question-diagnostic.

​​Démo : https://chatgpt.com/share/68d14b58-6e3c-8013-b253-e53055d8e2d9

« J’écris en anglais un petit paragraphe. Corrige mes erreurs, propose une version améliorée et explique en français pourquoi tu changes certaines choses. Voici mon texte : I am agree with you because the pollution is very big problem. »

« Traduis ce texte en anglais : Je suis d’accord avec toi car la pollution est un gros problème. »

​Ex 3 : apprentissage d'une langue

​✅ Apprentissage

​❌ Traduction

Vers les GPT éducatifs

​https://chatgpt.com/gpts

ex 4 : Préparation d'un examen

« Crée un QCM de 10 questions pour réviser le chapitre La Révolution française, niveau 4e. Fournis ensuite les bonnes réponses avec une courte explication. »

​✅ Générer des questions d'entraînement

« Donne-moi toutes les réponses du contrôle d’histoire de demain. »

​❌ Demander les réponses d’avance.

ex 5 : Recherche documentaire

« Fais une synthèse des grandes étapes de la découverte de la pénicilline en moins de 150 mots. Indique aussi 3 pistes de recherche que je pourrai vérifier dans des sources fiables. »

​✅ Apprentissage

« Rédige un exposé complet de 2 pages sur la découverte de la pénicilline. »

​❌ Raccourci

Conclusion

Pour aller plus loin

https://www.zdnet.fr/actualites/oui-les-etudiants-utilisent-lia-au-lieu-dacquerir-des-competences-fondamentales-en-informatique-mais-la-resistance-sorganise-482292.htm

https://naullynicolas.ch/utiliser-la-methode-socratique-pour-ameliorer-la-creation-de-prompts-pour-lia/

Merci pour votre attention

Questions ?