Objectif et necessity
Utiliser IA où il produces un meaningful avantage et définir le décision ou flux de travail il soutient.
La responsabilité demeure humaine
L’IA responsable à l’ère de la Super Intelligence
Une capacité computationnelle plus grande ne rend pas le jugement humain moins important; elle le rend plus conséquent. L’IA responsable se manifeste dans les choix de finalité, d’information, de modèles, d’autorité, d’évaluation, de transparence et dans les limites de ce que les systèmes intelligents sont autorisés à faire.
Terminologie AFA
Super Intelligence est le cadre. L’IA demeure le vocabulaire technique.
Super Intelligence est la façon dont AFA décrit, dans une perspective centrée sur l’humain, l’intelligence étendue au-delà des limites pratiques de la cognition non assistée grâce au calcul, aux connaissances accumulées, aux modèles, aux machines et aux autres instruments de l’intelligence.
Nous continuons d’utiliser intelligence artificielle (IA) pour les modèles, API, normes, règlements, catégories d’approvisionnement, produits des fournisseurs et termes de recherche établis. La transition ajoute un cadre conceptuel; elle n’efface pas le domaine technique.
Les deux mots comptent : la Super Intelligence d’AFA n’est pas la même affirmation que le terme établi superintelligence, généralement utilisé pour désigner une intelligence supérieure à l’intelligence humaine.
Lire la définition d’AFA →Principes
Responsabilité est expressed par concevoir décisions
AFA’s existant responsible-AI principes remain le foundation, maintenant extended au complet intelligence environnement.
responsabilité humaine
Assign clair propriété pour décisions, approvals, exceptions et escalade.
Information protection
Match données, connaissances et modèle accès au sensitivity et objectif du charge de travail.
Proportional risque
Appliquer stronger controls comme le consequences, autonomy et information sensitivity augmenter.
Transparency et maturité
Describe systèmes et produit maturité accurately; faire pas imply certainty ou availability cela fait pas exist.
évaluation et surveillance
Essai behaviour avant utiliser et surveiller material changes dans modèles, sources, invites et flux de travail.
Inclusion et Accessibilité
Concevoir expériences cela peut être understood et utilisé par le personnes ils sont intended à serve.
Lifecycle responsabilité
Gouverner le système par concevoir, déploiement, operation, changement et retirement.
Autorité
Définir quoi le personne est actually responsable pour
Humain supervision est pas meaningful lorsque un personne est nominally “dans le loop” mais lacks le temps, information ou autorité à intervene.
Pour agents et IA physique, souveraineté opérationnelle adds un direct question: quoi est le système permitted à faire sans approval, et quoi doit remain sous autorité humaine?
Opérationnel cadre
Turn principes dans un opérationnel système pour responsabilité
Document responsabilités cela peut survive au-delà de un Projet pilote.
Objectif
Définir le résultat et pourquoi IA est approprié.
Limites
Définir information, outils, modèles et actions cela sont allowed.
Preuves
Définir évaluation, logging, provenance et documentation exigences.
Responsabilité
Définir approval, escalade, changement contrôle et qui peut stop le système.
Poursuivre le parcours