Quelle “éthique” pour quelle “intelligence artificielle” ?

Un lien pour commencer :

“Vers une IA éthique et responsable pour les droits de l’homme, l’État de droit et la démocratie”

Évidemment, on peut espérer quel’ IA est elle-même un instrument fondamental pour explorer cette question …


Ainsi j’ai posé cette question le 25 mai 2024 à ChatGPT4-o :

Comment l’ IA peut-elle contribuer à développer une IA éthique et responsable pour les Droits humains, l’ État de droit et la démocratie ?

  • Surveillance et Détection des Violations des Droits Humains : Les systèmes d’IA peuvent être utilisés pour surveiller et analyser de vastes quantités de données provenant de sources diverses (médias sociaux, rapports, vidéos) afin de détecter et signaler les violations des droits humains.
  • Aide aux Victimes : Les chatbots et autres systèmes automatisés peuvent fournir des informations et un soutien aux victimes de violations des droits humains, facilitant ainsi l’accès à l’aide juridique et aux services sociaux.
  • Transparence et Responsabilité : Les systèmes d’IA peuvent aider à surveiller les activités gouvernementales et à détecter les pratiques corruptives, en promouvant la transparence et la responsabilité.
  • Automatisation des Procédures Juridiques : L’IA peut être utilisée pour automatiser les processus judiciaires, rendant le système judiciaire plus accessible et efficace. Par exemple, des outils d’IA peuvent aider à la rédaction automatique de documents juridiques, à la recherche jurisprudentielle, et à la prédiction des résultats des affaires judiciaires.
  • Lutte contre la Désinformation : Les algorithmes d’IA peuvent être conçus pour identifier et contrer la désinformation en ligne, en vérifiant les faits et en signalant les contenus trompeurs.
  • Participation Citoyenne : Les plateformes alimentées par l’IA peuvent faciliter la participation citoyenne en permettant aux individus de s’engager plus facilement dans les processus démocratiques, comme les consultations publiques et les pétitions en ligne.
  • Analyse des Sentiments et Préférences : L’IA peut analyser les sentiments et les préférences des citoyens à partir des données des réseaux sociaux et autres sources, permettant ainsi aux décideurs de mieux comprendre les préoccupations et les besoins de la population.
  • Développement de Standards Éthiques : Il est essentiel de développer des standards éthiques pour l’utilisation de l’IA, incluant des principes tels que l’équité, la transparence, et la non-discrimination. Des comités d’éthique et des organismes de régulation peuvent être mis en place pour superviser et garantir le respect de ces standards.
  • Éducation et Sensibilisation : La sensibilisation et l’éducation sur les enjeux éthiques de l’IA doivent être promues à tous les niveaux de la société, de sorte que les utilisateurs et les développeurs soient conscients des implications de leurs actions et décisions.
  • Partage des Bonnes Pratiques : La collaboration internationale est cruciale pour partager les bonnes pratiques et les connaissances en matière de développement et d’application éthique de l’IA.
  • Accords et Traités Internationaux : Des accords et traités internationaux peuvent être établis pour réguler l’utilisation de l’IA, en particulier en ce qui concerne les technologies pouvant affecter les droits humains et la démocratie.

L’ IAG à l’ Assemblée Nationale

A la commission des lois le 14 février 2024 :

Les défis de l’ intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré.

https://videos.assemblee-nationale.fr/video.14649160_65cc714e3134f.commission-des-lois–les-defis-de-l-intelligence-artificielle-generative-en-matiere-de-protection-d-14-fevrier-2024

AI : Collaboration entre modèles d’apprentissage linguistiques et modèles de raisonnement logique formelle

Google DeepMind’s new AI system can solve complex geometry problems

Its performance matches the smartest high school mathematicians and is much stronger than the previous state-of-the-art system.

https://www.technologyreview.com/2024/01/17/1086722/google-deepmind-alphageometry/

Rétropropagation dans les réseaux neuronaux biologiques ?

Dialogue avec ChatGPT :

User

Ma question :


Existe-t-il un équivalent de l’ algorithme de rétropropagation dans le fonctionnement des réseaux de neurones biologiques naturels ?
Comment les modifications des coefficients synaptiques de la périphérie sensorielle ou motrice peuvent-elles remonter vers les zones cérébrales associatives centrales ?

ChatGPT

  1. Complexité des Neurones Biologiques : Les neurones biologiques sont beaucoup plus complexes dans leur fonctionnement que leurs homologues artificiels. Ils impliquent des processus dynamiques, des signaux chimiques, et une variété de types de synapses, rendant la modélisation précise difficile.
  2. Plasticité Synaptique : Dans les réseaux de neurones biologiques, la plasticité synaptique est un mécanisme clé par lequel les connexions entre les neurones (synapses) se renforcent ou s’affaiblissent en réponse à l’activité neuronale. Des règles comme la plasticité dépendante du temps de l’activité (STDP) semblent jouer un rôle dans l’ajustement des connexions synaptiques, mais le processus exact et sa relation avec la rétropropagation restent incomplètement compris.
  3. Propagation de l’Erreur : La rétropropagation dans les réseaux neuronaux artificiels implique le calcul précis et la propagation des erreurs du résultat final vers les couches d’entrée. Dans le cerveau, il n’est pas clair comment ou si une telle propagation précise de l’erreur se produit. Certaines théories suggèrent que des mécanismes comme la modulation neuromodulatoire pourraient jouer un rôle similaire à la rétropropagation en ajustant l’efficacité synaptique sur la base des signaux globaux d’erreur ou de récompense.
  4. Réseaux de Neurones Artificiels vs Biologiques : Il est également important de noter que les réseaux de neurones artificiels sont souvent conçus avec des objectifs et des contraintes différents de ceux des systèmes biologiques, notamment en termes d’efficacité computationnelle et de capacité à être formés et ajustés avec des ensembles de données spécifiques.

Liens en relation avec le sujet :

ASSEMBLÉES TEMPORELLES
DANS LES RÉSEAUX DE NEURONES IMPULSIONNELS


Intelligence Artificielle

Quelles nouvelles étapes ?

DeepMind’s cofounder : Generative AI is just a phase. What’s next is interactive AI.

“This is a profound moment in the history of technology”
” says Mustafa Suleyman.

https://www.technologyreview.com/2023/09/15/1079624/deepmind-inflection-generative-ai-whats-next-mustafa-suleyman/

Philomag :
Quand l’intelligence artificielle entre dans nos vies … et dans nos têtes

Il est étonnant, dans le contexte actuel des débats sur l’ I.A. , qu’on n’ invoque à ce propos que “les deux voies”, celle du traitement symbolique et celle du connexionnisme ( l’ I.A. actuellement en expansion avec ses algorithmes d’ apprentissage ).
Pourtant, dès les années 2000, des recensions à ce sujet faisaient allusion à un troisième voie, celle de la “vie artificielle” ou encore de l'”énaction” pour reprendre un terme proposé par Varela.

Comme exemple de la présentation “grand public” actuelle, on peut lire dans l’ article de Philomag :
Dès les années 1940, la cybernétique crée des ponts entre humains et machines : ils sont tous deux réductibles à des « mécanismes d’information et de contrôle ». De là naissent deux grands mouvements. Le symbolisme réduit l’intelligence à un ensemble d’opérations logiques pour convertir les fonctions de l’esprit en algorithmes spécifiques. Le connexionnisme, lui, recopie le fonctionnement cérébral en faisant passer un signal d’entrée dans un réseau mouvant de « neurones formels ». Pour García, ces deux voies forment une dialectique que nous n’avons jamais quittée. Le connexionnisme, mis de côté dans les années 1980, est revenu récemment avec l’apprentissage profond. La voie symbolique se referme mais certains rêvent déjà de « réconcilier » ces « sœurs ennemies ».

Alors pourquoi cet “oubli”? Ne serait-ce pas parce qu’il est encore facile aujourd’hui d’opposer les deux formes de l’ I.A. ( Symbolique et connexionniste ) aux capacités supposées tout à fait originales de l’intelligence humaine ?

Pourtant, l’essentiel de ces caractéristiques distinctives entre l’intelligence humaine incarnée et située et les I.A. actuelles est précisément lié au fait que les comportements “intelligents” sont d’abord incarnés dans des organismes vivants, dont une évolution de quelques milliards d’années dans un contexte de nécessaire survie a modelé les innombrables formes adaptatives.
C’est donc dans cette direction de l’articulation des diverses formes d’ “intelligence artificielle” avec l’organisation biologique du vivant , qu’elle soit d’origine “naturelle” ou modulée “artificiellement” par les projets conscients des êtres humains, qu’il faudrait réfléchir dès maintenant la question de l’ “intelligence artificielle”.