JCA Bayonne

« L'intelligence artificielle est fascinante et dangereuse ».  
- L'IA est effectivement l'outil le plus puissant que l'humanité ait jamais inventé, car c'est la première technologie capable de prendre des décisions par elle-même. 
Tout 1e monde redoute les agents pathogènes, c'est-à-dire les virus capables de provoquer une maladie infectieuse. Mais nous n'avons pas cette même horreur biologique de la technologie numérique.

Par conséquent, nous nous montrons très permissifs à I'égard des logiciels.

-  Nous disposons de la technologie de I'information la plus sophistiquée de l'Histoire, et pourtant les gens ne peuvent pas se parler. Si vous ne pouvez pas distinguer les robots des humains, la conversation s'effondre.

- La loi devrait interdire toute tentative d'un agent non humain de se faire passer pour un humain ( deepfakes ciblant un être humain, par exemple ).
Les algorithmes peuvent aider à modérer les plateformes de réseaux sociaux. Mais les principes sur lesquels les algorithmes s'appuient pour décider quelle voix doit être réduite au silence ou laquelle doit être amplifiée doivent être validés par une institution humaine.

- Ce dont les gens doivent être conscients, c'est 1'effet potentiel de l'IA sur Ia société humaine.
Aujourd'hui, la plupart d'entre nous avons une attitude particulièrement décontractée à propos d'une technologie qui peut faire beaucoup de dégâts.

- I1 ne s'agit pas d'arrêter le développement de 1'IA, car son potentiel positif est énorme. 
Par exemple, chaque année, plus de 1 million de personnes meurent dans des accidents de voiture. La plupart de ces accidents sont Ie résultat d'erreurs humaines. l'IA pourrait sauver ces vies rien qu'en rendant Ia conduite plus sûre.

- Les chercheurs Français pourraient se servir de l'appartenance à l'Europe pour "aider" l'Asie et les Etats-Unis à maîtriser l'IA...

« Nous avons besoin d'institutions capables de comprendre ce qui se passe et de réagir très rapidement. »

- Si l'lA se met à poursuivre un objectif inattendu, il peut en résulter une guerre nucléaire.  La Ieçon adressée à l'humanité en général est claire : ne jamais invoquer des pouvoirs qu'on ne peut maîtriser !

--------------

MANIPULATION :  Ces deux images qui montrent Kamala Harris enceinte au côté de Donald Trump ont été fabriquées par le modèle de langage "Grok-2" d'Elon Musk.
En Californie, les deep fakes politiques sont au coeur d'un débat législatif...
----
LA FAILLE : Le pouvoir des réseaux.
Depuis quelques générations, l'humanité connaît une croissance sans précédent de sa production d'informations, à la fois en termes de quantité et de rapidité. Le moindre smartphone contient plus d'informations que la bibliothèque d'Alexandrie dans l'Antiquité et permet à son utilisateur de se connecter instantanément avec des milliards d'autres personnes à travers le monde. Pourtant, à l'heure où ces flots d'informations circulent à des vitesses vertigineuses, l'humanité est plus proche que jamais de s'autoannihiler...
----
L'IA n'est pas un "outil", c'est un "agent" !
Certaines de ces menaces sont faciles à imaginer :  Un dictateur paranoïaque pourrait ainsi confier des pouvoirs illimités à une IA faillible, y compris celui de déclencher des frappes nucléaires.
--------------
Lire le livre "NEXUS" de YUVAL NOAH HARARI chez "Albin Michel".