IA et transparence

1.Nos principes

• L’IA prépare, vous décidez. Les fonctions d’IA de Sessia produisent des propositions : correspondances de colonnes, brouillons, questions, appréciations. Elles sont conçues pour être relues et validées par une personne de l’organisme.
• Le minimum nécessaire. Seules les informations utiles à la tâche lancée sont transmises au fournisseur d’IA, au moment où elle est lancée. Les réponses des stagiaires au questionnaire de positionnement, et en particulier le champ facultatif sur les besoins d’aménagement (handicap, santé), ne sont jamais transmises.
• Pas d’entraînement sur vos données. Nous utilisons les offres professionnelles (API) d’Anthropic et de Google : selon les conditions des fournisseurs, les données transmises via l’API ne sont pas utilisées pour entraîner leurs modèles. Les fournisseurs peuvent conserver les requêtes pendant une durée limitée, selon leurs conditions, notamment pour détecter les abus.
• Transparence. Cette page décrit chaque fonction, le fournisseur utilisé et les données transmises. Elle est mise à jour avec le produit.

2.Les fonctions d’IA de Sessia

Fournisseurs : Anthropic (modèles Claude ; à ce jour Claude Opus pour la migration, les questionnaires, les quiz et leur correction, Claude Haiku et Claude Sonnet pour les documents, les agents et l’assistant vocal) et Google (modèles Gemini ; à ce jour Gemini Flash). Les modèles peuvent évoluer vers des versions plus récentes des mêmes fournisseurs ; tout nouveau fournisseur est annoncé comme prévu par l’accord de traitement des données.

3.Règlement européen sur l’IA

Le règlement (UE) 2024/1689 sur l’intelligence artificielle (« AI Act ») s’applique progressivement. Voici notre lecture de la place de Sessia, établie de bonne foi et réexaminée à mesure que les lignes directrices de la Commission européenne sont publiées.

Rôles

• BLOCK-GPT SAS est le fournisseur de Sessia, un logiciel qui intègre des fonctions d’IA reposant sur des modèles d’IA à usage général fournis par Anthropic et Google, eux-mêmes fournisseurs de ces modèles.
• L’organisme de formation qui utilise ces fonctions sous sa responsabilité en est le déployeur.

Évaluation des acquis : un usage à haut risque

Les systèmes d’IA destinés à évaluer les acquis d’apprentissage, notamment dans la formation professionnelle, figurent parmi les usages à haut risque de l’annexe III, point 3, du règlement. La correction des réponses ouvertes du quiz relève de cet usage. Sessia la conçoit comme une aide soumise au formateur : l’IA propose une appréciation fondée sur les critères de correction, le formateur peut enregistrer lui-même le résultat, et l’organisme reste décisionnaire. BLOCK-GPT SAS prépare la mise en conformité de cette fonction avec les exigences applicables (gestion des risques, documentation, journalisation, contrôle humain, information des déployeurs) selon le calendrier du règlement (UE) 2024/1689 et ses éventuelles modifications.

En tant que déployeur, l’organisme de formation :

• confie le contrôle des résultats à des formateurs compétents, qui vérifient les corrections proposées avant toute décision ayant un effet pour le stagiaire (validation des acquis, attestation, certificat de réalisation) ;
• utilise la fonction conformément à sa destination et à cette notice, et nous signale tout fonctionnement anormal ;
• informe les stagiaires que leurs réponses ouvertes peuvent faire l’objet d’une correction assistée par l’IA (proposition de mention ci-dessous) ;
• peut ne pas utiliser de questions ouvertes s’il ne souhaite pas recourir à la correction assistée.

Transparence (article 50)

Les personnes qui échangent avec un agent conversationnel doivent savoir qu’il s’agit d’une IA, et les contenus générés par l’IA doivent pouvoir être identifiés comme tels, selon le calendrier du règlement (UE) 2024/1689 et ses éventuelles modifications. Dans Sessia, les agents ne s’adressent qu’aux utilisateurs de l’espace, qui les lancent eux-mêmes. Pour les stagiaires, nous proposons la mention suivante, à reprendre dans la convocation ou le règlement intérieur :

« Les quiz d’évaluation de cette formation peuvent être rédigés et pré-corrigés à l’aide d’un outil d’intelligence artificielle. Les corrections proposées sont vérifiées par votre formateur, qui reste seul juge de la validation de vos acquis. Vous pouvez demander une correction entièrement humaine en vous adressant à votre organisme de formation. »

Maîtrise de l’IA (article 4)

Depuis le 2 février 2025, les fournisseurs et les déployeurs de systèmes d’IA doivent prendre des mesures pour que leur personnel dispose d’un niveau suffisant de maîtrise de l’IA. Ressources utiles pour vos équipes :

• cette page et les articles de l’« Aide » de votre espace, qui décrivent chaque fonction et ses limites ;
• les ressources de la CNIL sur l’intelligence artificielle : cnil.fr/fr/intelligence-artificielle ;
• les questions-réponses de la Commission européenne sur la maîtrise de l’IA : digital-strategy.ec.europa.eu ;
• sur demande, des réponses de notre équipe aux questions de vos formateurs sur ces fonctions.

4.Limites à connaître

• Une IA peut se tromper ou produire une réponse plausible mais inexacte : relisez toujours ce qu’elle propose.
• Une correspondance de colonnes ou une extraction de montants peut être incomplète : l’aperçu avant import et la vérification restent indispensables.
• La correction d’une réponse ouverte peut être trop sévère ou trop indulgente, notamment pour une réponse très courte ou hors du cadre des critères : le formateur tranche.
• En cas d’indisponibilité du fournisseur, certaines fonctions passent en mode dégradé (correction provisoire signalée comme à vérifier, questions génériques).

5.Questions et signalements

Une question sur l’usage de l’IA dans Sessia, un résultat qui vous semble anormal : écrivez à info@blockgpt.ai. Les données transmises aux fournisseurs sont aussi décrites dans la politique de confidentialité et la liste des sous-traitants.