Franchement je veux votre avis ! Je vois bcp bcp d’articles de ce style passer. Mais je me demande quand même : à quel point ces articles et surtout ces universitaires ont raison
Parce que franchement pour l’instant OK c’est rigolo vite fait mais franchement ça à encore vla les défauts l’IA. Donc je me demande à quel point ces gens sont dans la spéculation et dans un “fantasme” de fin du monde typique d’un film de SF ?
Y a la très bonne vidéo de Mr Phi sur le chatbot de Bing qui aborde un peu ce sujet. Il fait remarquer que quand on met un prompt qui dit : “tu es une IA qui réponds aux questions de l’utilisateur”, et bien on va souvent vite retrouver des réponses d’IA “défaillantes” parce qu’elles se comportent quasiment toujours comme ça dans les fictions écrites par les humains qui alimentent les LLM. Ça serait amusant si l’IA exterminait les humains précisément parce que dans l’imaginaire des humains les IA exterminent les humains.
Sinon personellement j’y crois absolument pas. Peut être que dans 5 ans on verra émerger des nouvelles formes de vie intelligente. Mais pourquoi cela devrait automatiquement mener à une guerre ?
Pascal Robert et moi étions revenus sur la fameuse “lettre pour une pause” signée par des milliers d’experts autoproclamés de l’IA :
Le fait de jouer à se faire peur est un marqueur ancien des discours autour de l’informatique (l’article en présente 6 autres). Consciemment ou non, ceux qui agitent ces peurs fantasmées cherchent à nous persuader de la puissance de la technique. Comme ils se présentent en experts, c’est une manière pour eux d’asseoir leur pouvoir. Derrière ce discours trompeur, le “progrès” peut se poursuivre sans s’embarrasser de débat public sur les choix techniques et sur leur mise en œuvre.
Je parle sciemment de “technique” et pas de “technologie”. Car la technologie recouvre l’étude des outils et des techniques, et donc l’ensemble des connaissances à leur sujet. Or les chantres de “l’innovation technologique” se bornent à la connaissance technique pure (c’est ce qu’ils appellent “progrès”), en omettant les contextes sociaux, politiques, écologiques et économiques avec lesquels elle interagit.
L’IA, ce ne sont pas que des machines et des logiciels. C’est aussi toute une infrastructure de datacenters, de câblages, de production d’énergie… Et derrière, ce sont des mâles blancs privilégiés qui développent les techniques, avec d’autres cols blancs qui les font tourner. Mais surtout une armada de travailleurs du clics qui annotent les données pour quelques $ la journée. Et bien sûr toutes celles et ceux qui produisent ces données et qui n’ont pas voix au chapitre quant à l’utilisation qui en est faite.
Ce qui pourrait être un grand projet d’intelligence collective (mettre en commun l’intelligence de chacune et chacun pour réaliser des tâches impossibles à l’échelle individuelle) est une vulgaire entreprise d’enrichissement privé avec des conséquences bien réelles sur l’équilibre de nos sociétés.
à quel point ces articles et surtout ces universitaires ont raison
On parle de prédication du futur, personne ne sait si ils ont raison.
Mais là on parle de quelqu’un qui parle de lâcher des missiles sur des datacenter s’ils entraînent des IA.L’auteur passe de “l’IA va dépasser l’intelligence de l’humain” à “l’IA a une volonté propre et veut éliminer l’humain”, le tout dit par un expert qui pense avoir inventé le concept d’aligment d’IA, concept inventé avant qu’il soit né.
Le problème c’est qu’on est pas tout seul ici, et les Chinois ils vont pas arrêter la recherche sur l’IA aux dernières nouvelles.
Le truc dans tout ça, c’est qu’a cause de ce genre de discours très racoleur, on parle pas ou peu (3 lignes a la fin de l’article) des vrai problèmed, inévitable:
la mise au chômage d’un grand nombre de travailleurs, plus de désinformation à des fins politiques ou encore des comportements crapuleux, par le biais de la création de “deepfakes”.
La technologies est déjà là, et peut remplacer des centaines de milliers d’emplois (ie: standardiste téléphonique), il manque juste que ça soit appliqué par des ingénieurs compétent. Il faudrait se bouger le cul maintenant pour éviter plus de misère (mais le gouvernement actuel en a rien a foutre de la misère).
Oui la mise au chômage de personnes qui ont rien demandé je suis d’accord c’est réel et un soucis.
@TGhost@lemmy.dbzer0.com bon peut être plus tôt que prévu alors 😅
Ah jai pas lue encore du coup. Je te dirais ici mdrr.
En vrai ce qui me fait peur cest pas LIA mais les humains et entreprises derrière. On a bien vu que “make the world a better place”, la technologie version sp500 (gafam) cest tout sauf ca.
Un robot est un tueur si on l’équipe d’arme etc, mais ca reste lhomme derrière.
Si on veut mettre des verrous ont peu. Si on le fait pas ou fera pas, cest pas pour rien.Un robot détecte des arabes en terroristes et des noirs en tant que singe car lhomme lui a transmis ses biais.
Si le monde se détruit avec lia, ce sera la faute de l’Homme. Ca peut accélérer le rythme, ou alors inverser la tendance. Dépend qui est derrière.
Parlant de SF, il est clair que le capitalisme s’en inspire pour les produits de demain. Mais les morales et les aspects de la SF ils sen contre foutent. Et notre société aussi.
Ce qui me fait peur cest lhomme et le modèle capitaliste patriarcal ou le cis alpha blanc est dominateur. Ou cis alpha bronze dans d’autres pays concernant d’autres minorités. On restera dans le modèle patriarcal néanmoins.
Cf la coupe du monde apres tout.
Mais les morales et les aspects de la SF ils sen contre foutent.
C’est hilarant les produits directement importé du monde cyberpunk (ie: cybertruck) alors que 95% des mondes cyberpunk c’est un monde dystopique contrôlé par des entreprises-états.
Car on ne va pas dans un monde entreprise-etat pour toi ? Macron et sa clique bossent dans l’intérêt du peuples peut etre ? Macron était pas paysan avant.
C’était un message qui allait dans ton sens, je vois pas comment tu l’as mal pris.
Dans ton message, tu fais une distinction nette entre entreprise et etat, aujourdhui ? Par rapport aux mondes de la SF ou c’est entre mele ?
On est encore très loin des mondes cyberpunk où l’état est totalement absent.
Je trouve que l’europe a fait du progrès ces dernières années sur le sujet, les GAFAM perde en puissance. En France par contre, c’est différent a cause de macron.Voila, merci.
La France n’est pas une exception.Edit : donc on ne dit pas la meme chose.
Je ne sais pas si les GAFAM perdent en puissance, où il y a eu un recule ?
lhomme lui a transmis ses biais.
Bah non regarde, il y a pas de biais, il fait des nazis asiatiques 🤣
Ca a bien du exister remarque. Les japonais durant la seconde guerre étaient dans un certain axe.
La croix gammé est d’origine asiatique également. ^^'.Et lhomme est con. :)