Un faux pardon présidentiel explique pourquoi vous ne pouvez pas faire confiance aux robots pour les nouvelles.
Combien de présidents ont gracié leurs proches ? Il s’avère que c’est une question délicate à répondre.
Suite au pardon de Hunter Biden par son père, plusieurs commentateurs ont examiné les précédents – d’autres grâces de proches. Exemple : Ana Navarro-Cardenas, un commentateur qui apparaît sur The View et CNN. Sur X, Navarro-Cardenas a cité un pardon accordé par le Président Woodrow Wilson à son beau-frère Hunter deButts. Cela m’a surpris.
La recherche des dossiers de clémence officiels ne fonctionne que pour les personnes qui ont postulé depuis 1989, et une page des bénéficiaires de la clémence par président remonte seulement à Richard Nixon. Un tel pardon aurait été controversé, pourtant il n’est pas mentionné sur la page bio de la bibliothèque présidentielle de Wilson. Find a Grave suggère que Wilson n’avait même pas de beau-frère avec ce nom – il montre neuf beaux-frères, mais pas notre homme Hunter deButts. Je ne peux pas prouver que Wilson n’a pas gracié un Hunter deButts ; je peux juste vous dire que si c’est le cas, cette personne n’était pas son beau-frère.
Navarro-Cardenas n’était pas la seule personne à mentionner des grâces perplexes. Un article d’Esquire intitulé « Un président ne devrait pas gracier son fils ? Bonjour, quelqu’un se souvient de Neil Bush ? » était basé sur le postulat que George H.W. Bush a gracié son fils Neil ; il a depuis été retiré « en raison d’une erreur ». La veille de sa publication, le rédacteur en chef d’Occupy Democrats, Grant Stern, a tweeté une affirmation similaire selon laquelle Jimmy Carter avait gracié son frère Billy et George H.W. Bush avait gracié Neil. Pour autant que je sache, aucun de ces pardons n’a réellement eu lieu.
D’où venait tout cela ? Eh bien, je ne sais pas quelle était la source de Stern ou d’Esquire. Mais je sais celle de Navarro-Cardenas, car elle avait un message de suivi pour les critiques : « Discutez-en avec Chat GPT. »
Je l’ai fait. J’ai demandé à ChatGPT, et il a identifié Hunter deButts comme le mari de la sœur de Wilson, Anne. « La famille de Woodrow Wilson était assez influente, et sa sœur Anne a épousé Hunter deButts, qui était un individu riche et socialement connecté d’une famille influente, » m’a dit ChatGPT. « Hunter deButts faisait partie de la famille élargie de Wilson, bien qu’il ne soit pas aussi bien connu dans les récits historiques que d’autres figures de la vie de Wilson. » Selon le New York Times, Anne Wilson a épousé un homme nommé George Howe. Il n’est pas clair d’où vient le nom Hunter deButts.
Il s’avère que ChatGPT est un moyen lamentable d’explorer les archives historiques. Lorsque je l’ai ouvert et demandé : « Combien de présidents américains ont gracié leurs proches ? », j’ai eu une réponse correcte : Bill Clinton a gracié Roger Clinton, son demi-frère. Mais à cela, ChatGPT m’a aussi dit que George H.W. Bush avait gracié son fils Neil.
Je ne me souvenais pas de cela, et je pense à la crise des économies et des prêts une quantité tout à fait normale, ce qui est souvent. (Je suis bien adapté et agréable aux fêtes.) Mais j’ai vérifié en utilisant le même processus que pour deButts. Je suis allé sur la page officielle du département de la Justice pour les pardons présidentiels. Neil Bush n’était pas là. J’ai fait une recherche dans le système de clémence. Pas là non plus. Ensuite, j’ai parcouru des archives de journaux et je n’ai pas trouvé de preuve d’un pardon. Il est très difficile de prouver un négatif – je suppose qu’il est possible que Neil Bush ait un pardon secret quelque part dans la Maison Blanche dont personne n’a entendu parler – mais je suis assez convaincu que personne ne l’a gracié, surtout pas son père.
Il y a également peu d’informations qui pourraient indiquer que Jimmy Carter a gracié son frère. L’obituaire de Billy Carter dans le New York Times ne fait aucune mention d’un pardon, et celui de The Washington Post non plus. J’ai demandé à Stern si sa source était ChatGPT et il a dit « non », sans préciser davantage où il avait obtenu son information. Néanmoins, demander à ChatGPT si Jimmy Carter a gracié Billy obtient un « oui » sans équivoque.
En 1981, alors que Jimmy Carter approchait de la fin de sa présidence, il a gracié son frère, Billy, pour d’éventuels crimes liés à ses relations avec la Libye. Le pardon, cependant, ne couvrait pas d’éventuelles responsabilités civiles ou autres actions légales, et Billy Carter a finalement accepté de témoigner devant le Congrès et de payer une amende pour ses actes.
Je reconnais que c’est un peu fastidieux, mais j’essaie de montrer mon travail. C’est la meilleure façon d’établir ma crédibilité, et quelque chose que vous n’obtenez pas de ChatGPT. C’est aussi quelque chose que personne parmi ceux qui ont fait des affirmations erronées n’a fait.
ChatGPT m’a donné d’autres réponses vraiment étranges – celles qui ne correspondaient pas à la question que j’ai posée sur les présidents graciant leurs proches. Il a cité le pardon de Richard Nixon par Gerald Ford, le qualifiant de “bien qu’il ne soit pas un membre de la famille directe”. Il a également mentionné qu’Andrew Johnson avait accordé une amnistie à d’anciens dirigeants confédérés “y compris certains membres de la famille de figures sudistes éminentes”. De manière bizarre, il m’a aussi dit que Lyndon B. Johnson avait accordé la clémence à “divers associés”, tout en notant “qu’ils n’impliquaient pas souvent sa propre famille.” Quoi ?
Il est compréhensible que ChatGPT ne mentionne pas le pardon de Hunter Biden puisqu’il a eu lieu au-delà de sa date limite de 2023. Mais de façon étrange, le pardon de Donald Trump à Charles Kushner, le père de son gendre Jared Kushner, n’apparaît pas non plus. Cela a eu lieu en 2020. Sans aucun doute, Kushner est un membre de la famille plus proche de Trump que Nixon ne l’est de Ford.
J’ai envoyé un courriel à Hearst pour demander si l’écrivain d’Esquire Charles P. Pierce avait utilisé ChatGPT comme source pour son article. La porte-parole Allison Keane a dit qu’il ne l’avait pas fait et a refusé de dire quoi que ce soit de plus sur la manière dont l’erreur pourrait avoir eu lieu. Stern m’a dit qu’il avait trouvé son info grâce à “des recherches sur internet sur Google”.
Ok. Voici ce que j’ai trouvé sur Google : un article de quelque chose appelé Hindustan Times intitulé « Avant Biden : les pardons présidentiels les plus notoires de Trump, Clinton et Carter pour des membres de la famille. ». Il affirme, à tort, que Jimmy Carter a gracié Billy. (J’ai fixé ma date limite de recherche au 2 décembre pour éviter de capter des articles de vérification des faits provenant des affirmations erronées.) Quant à Neil Bush, j’ai trouvé un post X semi-viral et un article dans quelque chose qui s’appelle Times Now.
Je ne sais pas quelle est la source des affirmations dans le Hindustan Times ou Times Now. Mais j’ai pensé qu’il vaudrait la peine de voir ce que Google Gemini avait à dire sur ces pardons pendant que je me trouvais dans ce trou de lapin particulier. Gemini, en réponse à « Combien de présidents ont gracié leurs fils » répond qu’il n’y en a qu’un : Joe Biden. Mais demandé combien de présidents ont gracié des membres de la famille, il dit que Jimmy Carter a gracié Billy et George H.W. Bush a gracié Neil. Il ne mentionne pas Kushner et Trump.
Vous remarquerez sur cette image qu’il y a des couleurs de surlignage. C’est parce que j’ai demandé à Google de vérifier ses résultats. Le pardon d’Abraham Lincoln, qui est réel, est surligné en rouge – Google avertit qu’il n’a pas trouvé de contenu pertinent. Les pardons de Bush et Carter, qui sont faux, sont surlignés en vert – et le résultat de Carter cite spécifiquement l’article erroné du Hindustan Times comme sa source.
Perplexity se débrouille un peu mieux, notant que Biden, Trump, Clinton et Lincoln ont gracié des proches. Mais demandé combien de présidents ont gracié leurs fils, il inclut la lettre d’amnistie de Lincoln au nom de la demi-sœur de sa femme dans ses réponses. La demi-sœur de la femme de quelqu’un, il faut le dire, n’est pas un fils.
Quoi qu’il soit arrivé dans ce cas, il y a un schéma récurrent de personnes s’appuyant sur ChatGPT ou d’autres services d’IA pour fournir des réponses, seulement pour obtenir des hallucinations en retour. Peut-être vous rappelez-vous qu’au début de cette année, une bande-annonce pour Megalopolis de Francis Ford Coppola a été retirée car elle contenait de fausses citations de critiques. Une IA générative, non identifiée, les avait inventées. En fait, ChatGPT est souvent « entièrement faux », selon le Columbia Journalism Review. Pour 200 citations et demandé d’identifier l’éditeur qui était la source de ces citations, ChatGPT s’est trompé partiellement ou entièrement plus de trois quarts du temps.
Même utiliser ChatGPT pour aider au processus d’écriture est risqué. Demandez à Jeff Hancock, le fondateur du Stanford Social Media Lab et un chercheur bien connu en désinformation. Un document légal qu’il a soumis avait cité des sources qui n’existaient pas. Hancock insiste sur le fait qu’il a écrit le document lui-même, mais il a utilisé GPT-4o pour rédiger sa liste de citations, ce qui a entraîné deux citations inventées et une citation qui avait les mauvais auteurs attachés.
Maintenant, un défenseur de l’IA pourrait – à juste titre – dire qu’un vrai journaliste devrait vérifier les réponses fournies par ChatGPT ; que la vérification des faits est une partie critique de notre travail. Je suis d’accord, c’est pourquoi je vous ai guidé à travers ma propre vérification dans cet article. Mais ce ne sont que les exemples publics et embarrassants de quelque chose que je pense se produire beaucoup plus souvent en privé : une personne normale utilise ChatGPT et fait confiance aux informations qu’elle lui donne.
Une erreur, évidemment.
Un avantage que la recherche Google à l’ancienne a sur les soi-disant moteurs de réponse est qu’elle relie directement aux sources primaires. Les moteurs de réponse vous donnent simplement une réponse, et il est souvent peu clair quelle est la source. Pour moi, utiliser ChatGPT ou la fonction IA de Google crée un travail supplémentaire – je dois aller vérifier la réponse par rapport à une source primaire ; l’ancienne recherche Google me donnait directement cette source.
Mais les personnes qui sont moins prudentes et moins pointilleuses que moi, ce que je soupçonne est la plupart des gens, s’arrêtent simplement à la réponse et ne vérifient jamais si elle est correcte. C’est, bien sûr, l’intention du moteur de réponse – c’est ce pour quoi il est conçu. (Quelqu’un, probablement quelqu’un impliqué avec PerplexityAI, dira maintenant : « Ah, mais nous pouvons annoter les sources avec des notes de bas de page. » Même problème : qui clique sur les notes de bas de page ?)
C’est tout mauvais design, bien sûr. La technologie qui sert réellement les gens prend en compte le comportement humain. Peut-être qu’il y a un moyen de rendre l’IA générative utile, mais dans son état actuel, je me sens terriblement désolé pour quiconque est suffisamment crédule pour l’utiliser comme outil de recherche.
Je sais que les gens en ont assez de parler de la colle sur la pizza, mais je trouve choquant le déclin à grande échelle de notre environnement d’information qui a déjà eu lieu. (Cherchez simplement sur Amazon si vous voulez voir ce que je veux dire.) Cela se produit de petites manières, comme l’IA de Google disant à tort que les renards mâles s’accouplent à vie, et de grandes manières, comme la diffusion de fausses informations autour d’un événement d’actualité majeur. À quoi bon une machine à réponses en qui personne ne peut avoir confiance ?
En savoir plus sur L'ABESTIT
Subscribe to get the latest posts sent to your email.