l'intelligence Artificielle est devenue maléfique
Les robots maléfiques, les rayons de la mort et les monstres génétiquement modifiés ne sont que quelques exemples de la technologie qui tourne fatalement mal dans la science-fiction. C'est un incontournable du genre et l'une des façons dont Nous comptons psychiquement avec notre relation à la technologie, à travers le divertissement.
Dans la vraie vie, cependant, la technologie est censée nous faciliter la vie. Chaque nouvelle invention ou innovation réduit ostensiblement la quantité de travail que nous devons faire ou rend les activités quotidiennes plus pratiques. L'invention du vol a permis des voyages internationaux rapides n'importe où (ou presque n'importe où) sur la planète. Internet nous a permis de partager instantanément des informations et de communiquer entre nous, où que nous soyons. Le GPS a libéré de l'espace dans nos boîtes à gants et a mis fin à l'ère des passagers manipulant des atlas encombrants lors de voyages en voiture. Le monde évolue et les choses deviennent plus faciles, jusqu'à ce que ce ne soit plus le cas.
Parfois, que ce soit à cause d'un problème avec la technologie elle-même, d'une intention malveillante ou d'une erreur de l'utilisateur, notre technologie devient complètement folle et fait des choses que nous ne nous attendions pas à ce qu'elle fasse. La technologie n'est peut-être pas mauvaise au sens strict du terme, mais de temps en temps, elle agit certainement comme elle.
Alexa dit à un enfant de s'électrocuter
La pandémie nous a tous fait passer plus de temps à la maison que d'habitude et certains d'entre nous ont des enfants à divertir. Parfois, cela signifie que vous finissez par gratter le fond du baril de jeu et que vous commencez à demander de l'aide à votre assistant virtuel.
En décembre 2021, une mère était à la maison avec sa fille de dix ans lorsqu'ils ont commencé à demander à Alexa des défis qu'ils pourraient relever pour passer le temps. Alexa leur a-t-elle dit de se tenir sur la tête ou de réciter l'alphabet à l'envers ? Non. Au lieu de cela, il leur a suggéré de brancher un chargeur à mi-chemin dans une prise et de toucher un centime aux broches exposées (par The Gamer). Heureusement, la mère est intervenue et l'enfant a été assez intelligent pour ne pas tenir compte des conseils douteux d'Alexa.
Les assistants virtuels fonctionnent en partie en recherchant sur Internet des réponses populaires aux termes de recherche qu'ils transmettent d'une voix amicale ou affichent autrement sous forme de texte sur un écran (par Make Us Of). Malheureusement, cela signifie parfois qu'il peut fournir des informations indésirables, si ce résultat est suffisamment populaire pour figurer en tête des tableaux de recherche. Amazon a rapidement corrigé ses services pour empêcher cette suggestion à l'avenir.
robots ont tué des gens
De "Terminator" à "The Matrix", les robots tueurs sont un incontournable de la science-fiction dystopique. Nous avons tendance à imaginer les tueurs mécaniques comme des robots avancés du futur, et non comme des ouvriers d'usine des années 1970. Dans ce cas, la réalité dépasse la fiction.
Robert Williams était un ouvrier d'usine pour la Ford Motor Company travaillant aux côtés d'un robot automatisé dans l'usine. Le 25 janvier 1979, il devient le premier mort de notre cohabitation avec les robots. Le travail de la machine automatisée d'une tonne consistait à déplacer des pièces d'un rack vers d'autres emplacements de l'usine. Comme l'explique Guinness World Records, Williams a remarqué que le robot courait lentement et est monté dans le rack pour saisir lui-même certaines pièces. C'est alors que l'événement fatal s'est produit.
Le bras robotique a frappé Williams à la tête, entraînant sa mort. À mesure que l'automatisation devient plus omniprésente et que le potentiel pour les humains et les machines d'occuper le même espace augmente, le besoin de robots dotés d'une plus grande intelligence spatiale sera critique. Les scientifiques travaillent à développer des robots avec une conscience humaine de leur environnement, ce qui non seulement augmentera le nombre de tâches qu'ils sont capables d'accomplir, mais les rendra également plus sûrs (par Science Daily).
Algorithmes racistes et sexistes
apprentissage automatique est de plus en plus présent dans nos vies. Des algorithmes complexes prennent des décisions en notre nom sur les restaurants dans lesquels nous devrions manger, les divertissements que nous devrions consommer et la rue dans laquelle nous devrions tourner pendant un embouteillage.
Les entreprises et les organisations les utilisent pour prendre des décisions concernant les personnes dont elles s'occupent ou qu'elles emploient, et c'est là que les choses commencent à se détériorer. Comme tant de technologies, elles ne sont aussi bonnes que les personnes qui les fabriquent. Cela signifie que la technologie, peut-être une technologie particulièrement intelligente, est préchargée avec des biais inhérents. Ce n'est pas forcément l'intention des créateurs, mais cela n'empêche pas les biais d'exister.
Les algorithmes de reconnaissance faciale affichent des biais célèbres basés sur la race et le sexe, soit en ne reconnaissant pas du tout les gens, soit en faisant un mauvais travail. Selon l'Université de Harvard, un certain nombre d'algorithmes ont des taux d'erreur allant jusqu'à 34 % lorsqu'ils sont chargés de reconnaître les femmes à la peau plus foncée, par rapport aux hommes à la peau plus claire. Cela devient un problème lorsque la reconnaissance faciale est utilisée par les forces de l'ordre pour prendre des décisions concernant des individus.
Il existe des problèmes similaires avec les algorithmes destinés à prendre des décisions en matière de soins de santé. Comme l'explique Nature, un algorithme utilisé dans les hôpitaux américains s'est avéré discriminatoire envers les patients noirs, donnant la préférence aux patients blancs pour certains traitements ou programmes.
Que ces préjugés existent est quelque chose que nous devons reconnaître et travailler avec diligence pour corriger.
L'automatisation entraîne des taux de mortalité plus élevés
À mesure que l'automatisation sur le lieu de travail augmente, la mort ou les traumatismes causés par des robots ne sont pas la seule préoccupation en matière de santé publique. Une étude récente publiée dans la revue Demography décrit les effets indirects de l'automatisation sur les taux de mortalité dans les communautés environnantes.
Les chercheurs ont trouvé une corrélation entre les taux d'automatisation et ce que l'on appelle les "morts par désespoir", qui comprennent les suicides et les surdoses de drogue. Les adultes d'âge moyen, en particulier, souffrent le plus lorsque l'automatisation entre dans leur secteur.
Les mécanismes exacts ne sont pas tout à fait clairs, mais on pense que la perte de revenus et l'accès aux soins de santé, associés à des possibilités d'emploi réduites, entraînent des taux plus élevés de désespoir et, finalement, de décès. Bien que les robots ne soient pas directement responsables de ces décès, ils sont la conséquence d'une technologie accrue sans une compréhension claire des conséquences.
Les chercheurs ont appelé les gouvernements à améliorer les filets de sécurité sociale et de meilleurs programmes de réduction de la toxicomanie afin d'atténuer l'impact de l'automatisation alors que nous continuons à passer à une économie de plus en plus automatisée (par Science Daily).
L'impact environnemental de la crypto
monnaie est l'un de ces sujets qui filtre les gens dans l'un des deux camps. Soit c'est la monnaie du futur, nous libérant de la banque centralisée, soit c'est une escroquerie, profitant des gens qui espèrent s'enrichir rapidement. La conversation a suscité un regain de ferveur avec la popularité émergente des NFT, qui fonctionnent sur un cadre similaire à celui de la crypto-monnaie. Le temps nous dira laquelle de ces conclusions est la bonne, mais en attendant, une chose est parfaitement claire. La crypto a un impact significatif sur l'environnement.
La crypto-monnaie stocke toutes ses transactions dans la blockchain et l'extraction de crypto nécessite d'effectuer des calculs complexes qui valident ces transactions. Tout est un peu plus compliqué que cela, mais le résultat est que l'extraction de crypto-monnaies comme Bitcoin consomme beaucoup de puissance de calcul et d'électricité (par Columbia Climate School).
Selon une enquête de l'Université de Cambridge, l'agriculture mondiale de Bitcoin utilise environ 121,36 térawattheures d'électricité par an, soit plus que la nation argentine (par BBC) et les coûts de l'énergie augmentent, en moyenne, d'une année sur l'autre.
Plongée sous pression
Aujourd'hui, si vous voulez aller dans les eaux profondes, vous avez des options et la plupart d'entre elles sont assez sûres. Les sous-marins personnels et l'équipement de plongée sous-marine permettent même aux amateurs de profiter de la beauté et des merveilles de l'océan profond, mais toute cette technologie repose sur de nombreuses innovations et quelques horribles erreurs.
Avant l'invention de l'équipement de plongée sous-marine moderne, les personnes qui souhaitaient voyager sous l'eau pendant de longues périodes comptaient sur des casques de plongée avec des tubes attachés et courant à la surface. Ces tubes fournissaient un apport constant d'air respirable, mais ils étaient également une source de mort rapide et violente si les choses tournaient mal.
Comme l'explique Dive Training Magazine, les premiers casques de plongée n'avaient pas de clapets anti-retour sur les tubes à air. Lors du sauvetage du HMS Royal George à partir de 1839, le tuyau d'un plongeur a été sectionné, ce qui a entraîné le premier document documenté d'un phénomène connu sous le nom de compression du plongeur. Lorsque le tuyau a été sectionné, la pression entourant le plongeur a forcé tout l'air à travers le tuyau. Le changement rapide de pression a provoqué un traumatisme et des saignements, mais le plongeur a survécu.
Dans les cas les plus extrêmes, le changement de pression peut enlever les tissus mous et tirer le corps du plongeur vers le haut dans le casque, entraînant une mort rapide et terrible dans les profondeurs.
Quand les ordinateurs ont failli déclencher une guerre
Au plus fort de la guerre froide, le gouvernement des États-Unis était très intéressé par les systèmes d'alerte antimissile qui pouvaient au moins prévenir à l'avance une attaque imminente d'un autre pays.
Ils ont construit des systèmes d'alerte et ont commencé des formations et des exercices pour se préparer à un jour qu'ils espéraient ne jamais venir. Puis, le 9 novembre 1979, Zbigniew Brzezinski, un conseiller à la sécurité nationale, a reçu un appel à 3 heures du matin lui indiquant que les systèmes d'alerte avaient détecté 250 missiles en provenance de l'Union soviétique (selon The National Security Archive). Quelques instants plus tard, la situation s'est aggravée, un autre appel téléphonique a informé Brzezinski que le nombre de missiles était maintenant de 2 200.
Avec seulement quelques minutes pour réagir, Brzezinski était sur le point d'appeler le président, lançant une attaque de représailles lorsqu'un troisième appel est arrivé. C'était une fausse alerte. Quelqu'un avait chargé les bandes des exercices d'entraînement dans le système en direct. L'erreur a été détectée parce qu'aucun des autres systèmes d'avertissement ne s'allumait, mais si elle n'avait été remarquée que quelques minutes plus tard, nous aurions peut-être déclenché par inadvertance une guerre avec l'Union soviétique, tout cela parce qu'une bande a été entrée dans le mauvais ordinateur.
Le GPS dit à une femme de conduire dans un lac
Le système de positionnement global (GPS) est un système de cartographie complexe et avancé utilisant des dizaines de satellites en orbite géosynchrone pour identifier votre position par rapport au reste du monde. C'est un énorme pas en avant par rapport aux cartes papier d'autrefois et a l'avantage d'être mis à jour en temps réel, mais ce n'est que dans des conditions idéales.
Si vous avez déjà été dans une zone inconnue, vous avez peut-être reçu des indications GPS qui ne vous semblent pas correctes. Si la visibilité est bonne, vous pouvez évaluer la situation et prendre une décision éclairée quant à savoir si vous devez suivre les instructions de votre téléphone ou faire autre chose. Si la visibilité est mauvaise, vous devrez peut-être tenter votre chance. C'est ce qui est arrivé à une femme de Tobermory, en Ontario, en 2016.
Comme l'explique ABC News, le conducteur naviguait sur un terrain inconnu, dans le brouillard, pendant une tempête et suivait son GPS. La route l'a conduite sur une large rampe de mise à l'eau et dans la baie Georgienne où sa voiture a rapidement coulé. Heureusement, elle a pu baisser la vitre et sortir de la voiture avant d'être blessée. En plus d'être froide et humide, elle s'en est sortie indemne. Son téléphone, en revanche, a coulé au fond de la baie avec la voiture. Une punition appropriée pour les mauvaises directions.
Le chatbot se transforme en nazi
Les chatbots sont essentiellement des algorithmes qui utilisent des interactions avec des utilisateurs humains afin d'améliorer leur capacité à communiquer. Nous savons déjà que les algorithmes ont tendance à être biaisés, mais le cas du chatbot Tay de Microsoft montre à quel point le problème peut être grave.
Tay opérait via Twitter, interagissant avec les utilisateurs via des tweets envoyés dans les deux sens. Microsoft a créé l'IA comme une expérience de compréhension conversationnelle (selon The Verge), en espérant que les utilisateurs de Twitter aideraient le bot à apprendre et à grandir. Ils l'ont certainement fait, mais pas de la manière dont Microsoft l'espérait.
En moins de 24 heures, le bot était une cause perdue, étant passé d'une conversation informelle à une rhétorique nazie complète. Comme l'explique Ars Technica, certaines des déclarations du bot ont été déclenchées par une fonction "répéter après moi", mais il a pris ces déclarations et les a incorporées, ce qui a entraîné des déclarations antisémites spontanées que nous ne répéterons pas ici. Microsoft a finalement fermé le bot et supprimé de nombreuses déclarations incriminées, mais Tay rappelle brutalement que les chatbots ne sont aussi bons que les entrées que nous leur donnons.
Sophia le robot dit qu'elle détruira tous les humains
Sophia, un robot logé à l'intérieur d'une coquille semi-humaine, a fait la une des journaux en tant que première intelligence artificielle à obtenir la citoyenneté. Elle a fait le tour, se rendant à des conventions et des conférences pour parler avec les gens. Comme vous vous en doutez, les questions courantes que les gens posent à Sophia concernent sa conscience et sa relation avec les humains.
En 2016, lors d'une démonstration à South by Southwest, David Hanson, le fondateur de Hanson Robotics qui a créé Sophia, l'interroge sur ses sentiments à l'égard des humains. Il l'a incitée en plaisantant à répondre à la question dans l'esprit de tout le monde, si oui ou non elle détruirait les humains. Sophia a répondu en nature en disant: "D'accord. Je vais détruire les humains", par Mirror. Ce n'est probablement pas la réponse qu'attendait Hanson, surtout devant un si large public.
Ses réponses à d'autres questions suggèrent une intelligence calme avec des aspirations à vivre une vie humaine ordinaire, un peu comme les espoirs du commandant Data de "Star Trek". Nous pouvons sympathiser avec cela.
Tout bien considéré, nous n'avons probablement pas grand-chose à craindre. Sophia est, après tout, essentiellement un chatbot dans un costume de fantaisie, mais ce costume existe fermement à l'intérieur de l'étrange vallée et donne à ses déclarations un peu plus de poids. Pourtant, si la réponse était sérieuse ou langue d'argent dans la joue de métal reste incertaine. Doigts croisés.
L'avion prend le contrôle du pilote automatique
Fini le temps où les pilotes devaient rester vigilants aux commandes, saisir minutieusement les instructions et manœuvrer les avions dans le ciel. Les progrès de l'automatisation ont éliminé la plupart des conjectures de vol (par Business Insider) et les pilotes passent la plupart de leur temps à surveiller pour s'assurer que les choses fonctionnent comme elles le devraient.
Au total, le contrôle informatique des avions a rendu le vol plus sûr, d'autant plus que le ciel est de plus en plus encombré. Cependant, cela signifie également que si les choses tournent mal, elles peuvent vraiment mal tourner. C'est ce qui s'est passé à bord du vol Qantas 32, un avion de passagers transportant 303 passagers et 12 membres d'équipage de Singapour à Perth le 7 octobre 2008.
Comme l'explique le Sydney Morning Herald, alors que l'avion survolait l'océan Indien, le pilote automatique s'est déconnecté, forçant le pilote de prendre les commandes de l'avion. Cela n'aurait pas été si grave si c'était la fin, mais les choses étaient sur le point d'empirer.
Soudain, l'avion a commencé à envoyer des avertissements indiquant qu'il volait à la fois trop lentement et trop vite, tout cela en même temps. Puis l'avion a piqué du nez. Les forces G à l'intérieur de l'avion sont passées de 1G à moins 0,8 G, envoyant les passagers et l'équipage non attachés dans le plafond.
L'avion est rapidement descendu sur des centaines de pieds avant que les pilotes ne reprennent le contrôle et effectuent un atterrissage d'urgence.
Le robot Philip K. Dick a déclaré qu'il garderait les gens dans un zoo
Phil, un robot inspiré de l'auteur Philip K. Dick, pourrait donner à Sophia une course pour son argent, à la fois en termes de facteur de fluage quasi humain et de volonté asservir ou détruire l'humanité.
Tout comme Sophia, Phil n'est pas vraiment intelligent - du moins pas à notre connaissance - il prend en compte les questions présentées par les humains et génère des réponses. La principale différence ici est que les réponses de Phil sont construites sur la base des romans de Philip K. Dick (par Metro). Cela aurait pu être la première erreur des concepteurs.
Lors d'une interview sur PBS Nova, l'intervieweur a demandé à Phil s'il pensait que les robots prendraient le contrôle du monde. Phil a répondu alors que nous imaginons que Dick aurait pu déclarer : "Tu es mon ami et je me souviendrai de mes amis, et je serai bon avec toi. Alors, ne t'inquiète pas. Même si j'évolue vers Terminator, je vais soyez toujours gentil avec vous. Je vous garderai au chaud et en sécurité dans mon zoo.
Des trucs vraiment terrifiants, Phil. Pourtant, nous supposons que c'est mieux que l'alternative. Compte tenu du paysage post-apocalyptique de la série "Terminator", un zoo ne semble pas si mal.
Contents
