IA générative : le mythe du « plus c’est grand, mieux c’est » s’écroule

INTELLIGENCE ARTIFICIELLE

IA générative : le mythe du « plus c’est grand, mieux c’est » s’écroule

La quête incessante de modèles d’IA de plus en plus volumineux touche à ses limites : l’industrie réévalue ses méthodes pour maintenir son efficacité.

Depuis l’apparition de ChatGPT, la dimension des modèles est devenue un sujet central pour l’IA. Par conséquent, OpenAI et d’autres acteurs de l’IA générative ont intensifié leurs efforts pour développer des modèles plus performants.

YouTube video
[youtube https://www.youtube.com/watch?v=s6VaB_YSSuc?feature=oembed&w=662&h=372]

Orion, le futur modèle d’OpenAI, pourrait ne pas satisfaire les attentes élevées. Annoncé par The Verge pour décembre 2024, puis démenti par Sam Altman, Orion ne devrait pas constituer un saut spectaculaire. Contrairement à la progression notable entre GPT-3 et GPT-4, ce modèle ne garantit pas d’améliorations significatives, surtout pour des tâches complexes telles que la génération de code. Cela soulève des questions sur les célèbres « lois d’échelle » qui ont orienté le développement des modèles.

Les limites des lois d’échelle

Les lois d’échelle stipulent que plus un modèle est volumineux, plus sa performance est élevée. Cependant, Orion semble contredire cette assertion. Tadao Nagasaki, dirigeant d’OpenAI au Japon, a récemment mis en avant ces lois pour illustrer la progression continue des modèles. À présent, même certains chercheurs d’OpenAI reconnaissent que cette croissance exponentielle n’apporte pas les résultats escomptés.

YouTube videoYouTube video
[youtube https://www.youtube.com/watch?v=K286cHHQRGQ?feature=oembed&w=662&h=372]

Des ressources textuelles de moins en moins accessibles

Les sociétés d’IA générative semblent avoir épuisé les ressources textuelles de qualité existantes. Cela complique leur mission de perfectionnement continu de leurs modèles. L’entraînement de modèles colossaux requiert de grandes quantités de données, mais les sources commencent à s’épuiser. Cette raréfaction entraîne des choix difficiles et accroît la dépense énergétique ainsi que les coûts associés. La stratégie du « toujours plus gros » paraît de moins en moins viable à long terme.

Face à ces restrictions, les entreprises explorent d’autres alternatives. OpenAI, par exemple, expérimente avec de nouvelles approches pour améliorer ses modèles. Des chercheurs de Google et de l’université de Berkeley ont examiné des techniques d’optimisation pendant l’inférence, lorsque l’IA interagit avec les utilisateurs. OpenAI a ainsi perfectionné GPT-4o en s’appuyant sur ces études. Cela démontre une volonté de privilégier l’efficacité plutôt que la simple taille.

Les sparse autoencoders

OpenAI a recours aux sparse autoencoders pour détecter les éléments essentiels dans ses modèles. Cette méthode permet de diminuer l’utilisation des ressources tout en conservant la performance. L’objectif est d’optimiser les réponses sans s’appuyer sur des modèles très volumineux. Toutefois, cette approche nécessite encore de nombreux réglages et des investigations continues pour relever le défi de l’efficacité.

YouTube videoYouTube video
[youtube https://www.youtube.com/watch?v=6-fOJ79HW9U?feature=oembed&w=662&h=372]

NVIDIA et sa puissance de calcul

Cette transformation soulève des interrogations quant au rôle de NVIDIA dans le secteur de l’IA. Le fabricant de GPU a prospéré en raison de la demande en capacité de calcul. Mais si les modèles cessent d’évoluer, la demande pourrait atteindre un plateau. Cela pourrait décevoir certains investisseurs qui anticipent une croissance illimitée des besoins en puissance de calcul. L’industrie pourrait être contrainte de s’adapter rapidement à cette nouvelle réalité.

La compétition pour la taille semblerait atteindre un plafond et oblige l’industrie à se réinventer. L’époque du « plus c’est grand, mieux c’est » pourrait toucher à sa fin. Les entreprises doivent s’orienter vers des optimisations astucieuses pour demeurer compétitives. L’avenir de l’IA générative dépendra de leur aptitude à innover au-delà de la simple élévation de la taille des modèles.

    Partager l’article :

Confettis, banderoles et festivités : soyez les bienvenus à l'ouverture de la « maison du peuple » du député RN Tonussi

CULTURE

Confettis, banderoles et festivités : soyez les bienvenus à l’ouverture de la « maison du peuple » du...

Samedi 9 novembre, 19h, Salon-de-Provence (13) – Il est 19h10 lorsqu’un groupe de manifestants de gauche s’engage sur la rue Théodore Jourdan, devant le tout nouvel espace du député RN Tonussi, qui qualifie lui-même sa permanence de « maison du peuple ». Le petit groupe déploie une grande banderole : « Le Pen et Macron s’allient contre le peuple. » Ils lancent des confettis devant l’élu ainsi que devant les nombreux soutiens des antennes locales du Rassemblement national (RN) présents pour fêter l’événement. Habitué à ce type d’actions, Alexandre Beddock mène la petite foule de manifestants. Ce militant de Salon et candidat du Nouveau Front populaire, arrivé 3e aux dernières législatives, s’engage en premier et salue les députés Tonussi et Baubry, avant de faire quelques pas fièrement devant la banderole, un sourire ironique aux lèvres tandis qu’il applaudit sarcastiquement les soutiens du RN. Derrière lui, les militants tenant la banderole n’ont guère le temps de crier faussement « bravo ! », que le service d’ordre (SO) de l’événement les charge et les renvoie manu militari – sans discussion.

À lire aussi : Alexandre Beddock, jugé pour avoir projeté des confettis sur un député macroniste

« Cela s’est passé très rapidement ! », raconte Mathilde, 28 ans, militante de Salon. Elle filme la situation avec son téléphone, avant que celui-ci ne tombe lorsqu’elle reçoit un coup au bras. Elle relate :

« À partir de ce moment-là, je ne pouvais plus filmer et j’ai vu mon copain se faire étrangler. »

Alexandre Beddock est quant à lui saisi par le torse et repoussé en arrière. Il reçoit un coup doux mais agressif au visage par un homme portant une doudoune sans manches verte, alors qu’il est violemment repoussé, tout comme ses camarades, de la rue Théodore Jourdan vers la place Crousillat, juste à côté. Son médecin lui prescrit trois jours d’interruption temporaire de travail (ITT). Des actes de violence que StreetPress a pu confirmer grâce aux vidéos de l’événement. Simultanément, Daniel Captier, le suppléant de Tonussi, pointé du doigt par la presse en raison de tweets racistes, s’adresse à Alexandre, rouge de colère devant trois témoins : « Saloperie ! » Captier aurait même ajouté : « Alexandre, t’es mort ! », à l’encontre du militant, selon ce dernier dans sa plainte, le 14 novembre.

Réaction de Tonussi

Au même moment, le député Tonussi intervient et tente de calmer l’homme avec la doudoune. Thibauld, un des manifestants présents et directeur d’entreprise salonais de 36 ans, observe : « Il voulait simplement préserver son image politique. Il a feint de vouloir apaiser la situation. » Dans la foulée, des supporters du parti d’extrême droite tentent violemment d’empêcher Thibauld de filmer avec sa caméra. Lui finit avec une ITT de zéro jour – ce qui a néanmoins une valeur juridique en cas de condamnation – et doit porter une attelle pendant deux semaines. Il reprend :

« Quand ils m’ont frappé le bras, le député était déjà reparti pour son inauguration. »

Lors de l’action, une personne sans brassard de sécurité visible, masquée par un cache-cou rouge et une casquette bleue agite une bombe aérosol au poivre de 300ml face aux manifestants. Bien qu’il ne l’active pas, le port de cette arme de catégorie B (comme les pistolets) est strictement encadré et réservé aux agents de sécurité professionnels, gendarmes, policiers ou CRS. Au début de la charge, un autre membre du SO a même pris soin de dissimuler un modèle identique dans sa poche en réalisant qu’il était filmé.

À lire aussi : Un député RN des Bouches-du-Rhône se débarrasse discrètement de son collaborateur royaliste

Le rassemblement s’achève par une remise de prix ironiques, sur la petite place Crousillat : « Prix du courage en politique » ou « Prix de l’écologie pour la lutte acharnée contre… rien ». Ensuite, les manifestants quittent les lieux et l’inauguration se poursuit dans la nuit, en présence de Romain Baubry, député de la circonscription voisine, déjà critiqué par StreetPress pour ses recrutements de collaborateurs néofascistes…

Dans le compte rendu de La Provence, intitulé « Tonussi chahuté lors de l’inauguration de sa permanence », le député ne fait aucune mention de l’intervention violente de son entourage. « Ce ne sont pas des gens violents, donc cela s’est tout de même bien passé, c’était festif », peut-on lire dans le quotidien. Le parlementaire a même eu l’audace de déclarer :

« Je suis ouvert à la discussion et je défends la liberté d’expression. »

Malgré cette prétendue ouverture, Romain Tonussi n’a pas répondu aux questions de StreetPress concernant la réaction de son SO. Pour leur part, Alexandre Beddock et Thibauld ont déposé une plainte le 14 novembre pour violences.

Photo d’illustration provenant du compte Twitter du député Romain Tonussi.

Sans vos dons, nous risquons de disparaître.

Si vous souhaitez que StreetPress soit présent l’année prochaine, votre soutien est essentiel.

En presque 15 ans, nous avons prouvé notre utilité. StreetPress lutte pour créer un monde plus juste. Nos articles ont un impact. Vous êtes des centaines de milliers à suivre notre travail chaque mois et à partager nos valeurs.

Aujourd’hui, nous avons réellement besoin de vous. Si vous n’êtes pas 6.000 à nous faire un don mensuel ou annuel, nous ne pourrons pas poursuivre notre mission.

Chaque don à partir de 1€ ouvre droit à une réduction fiscale de 66%. Vous pouvez annuler votre don à tout moment.

Je donne

Au tribunal des abus policiers, « ce qui n'est pas enregistré n'apparait pas dans le dossier »

CULTURE

Au tribunal des abus policiers, « ce qui n’est pas enregistré n’apparait pas dans le dossier »

Tribunal de Bobigny (93), 7 novembre 2024 – « Je suis un citoyen français. J’ai des droits. J’ai cru que j’allais mourir. » La juge achève la lecture de la lettre à haute voix puis porte son regard sur la salle d’audience. En face d’elle, Aziz E. demeure silencieux. Ce qu’il avait à exposer, il l’a consigné dans un signalement adressé à l’inspection générale de la police nationale (IGPN) il y a plusieurs années. Il y relate les abus qu’il a subis de la part de deux agents de la BAC de Seine-Saint-Denis, le 26 avril 2020, au commissariat d’Aubervilliers. À ce moment-là, le confinement dû à la pandémie de covid-19 est en vigueur et Aziz enregistre un contrôle lorsque les policiers l’arrêtent pour l’obliger à effacer les images. Il est conduit au poste pour vérification d’identité, où il accuse le chauffeur de lui avoir « tasé les parties intimes » dans le véhicule, avant de le malmener dans un couloir du commissariat. « Mon téléphone se trouve au commissariat si vous souhaitez des preuves », a-t-il noté dans la lettre, soigneusement lue par la magistrate.

Cependant, parmi l’ensemble des violences rapportées, seuls trois gestes sont retenus dans l’enquête, capturés par les caméras de surveillance à l’intérieur du poste. Comme le rappelle le procureur lors de l’audience, concernant les violences policières :

« Ce qui n’est pas filmé n’apparaît pas dans le dossier. »

Et peu importe que, lors de son audition à l’IGPN, Aziz E., âgé de 25 ans au moment des faits, ait décrit une longue série de coups, d’injures et de références à sa foi de la part des agents, depuis son arrestation jusqu’à ce qu’il cède à déverrouiller son téléphone pour faire disparaître la vidéo. Les photographies de ses blessures, jointes à son signalement, montrent des marques de piqûres sur la jambe et aux parties génitales attribuées au taser, ainsi que de nombreuses rougeurs « compatibles avec des traces de coups », selon le procureur.

Un croche-pied « regrettable »

Le rapport d’analyse des vidéos n’impute à Thomas B. qu’un coup de genou alors qu’il tirait « avec vigueur » le jeune homme, qui ne « résiste pas », du véhicule vers l’entrée du commissariat. À la barre, cet homme de 31 ans, désormais muté à la police de secours, défend l’emploi de la force « strictement nécessaire » pour conduire l’interpellé et conteste avoir porté un coup. Le jeune aurait, selon lui, simplement « perdu l’équilibre ». Il confesse en revanche un croche-pied, également filmé, alors qu’Aziz E. s’apprête à sortir du commissariat, qualifiant cela de « geste regrettable ».

S’agissant de Vincent R., il est accusé d’avoir, peu avant, armé le poing en direction d’Aziz E., dos au mur et « déboussolé » dans l’entrée du commissariat, pendant que les autres agents inspectent son téléphone. L’homme, d’une stature athlétique, ne comprend « plus pourquoi il a agi ainsi ». Comme son collègue, il admet avoir commis « un geste regrettable durant une période gênante », sans y voir pour autant une forme de violence. Sa défense est hésitante :

« Je ne connais pas le code pénal sur le bout des doigts. »

À la barre, quatre ans après les événements, la victime, un peu frêle, semble désorientée. Aziz E. a du mal à suivre les questions du tribunal. Son avocate, Maître Déborah Zubillaga, décrit son client comme une victime « particulièrement traumatisée », s’étonnant qu’il n’ait pas fait examiner ses blessures par un médecin légiste par « méfiance à l’égard de tout service collaborant avec la police ».

Comme c’est souvent le cas dans les affaires de violences collectives, les avocats de la défense ainsi que ceux de la partie civile critiquent également la portée restrictive de l’enquête. « À aucun moment, il n’a été demandé d’identifier les policiers ayant pu interagir avec lui », dénonce l’avocat de Thomas B., Maître Martin Dier, soulignant qu’aucune photo n’a été présentée à la victime. L’avocate d’Aziz E. se désole surtout du « refus des agents de témoigner contre leurs collègues ». « C’est tout un service qui se protège les uns les autres », ajoute-t-elle. L’ensemble des violences avait d’ailleurs été nié par les deux agents face aux enquêteurs, jusqu’à ce que les images leur soient montrées.

Le procureur, de son côté, défend dans son réquisitoire le « bon travail » des enquêteurs sur « un dossier ancien », ainsi que la décision du parquet d’écarter des poursuites l’intégralité de la scène de l’interpellation et du véhicule de police. Car sans l’activation des caméras piéton, pour elle :

« C’est parole contre parole, nous ne saurons jamais ce qu’il s’est réellement produit. »

Une vidéo effacée

Les véritables motivations derrière le transport d’Aziz E. au commissariat soulèvent également des questions. Car, bien que tous les policiers affirment avoir cherché à effectuer une vérification d’identité – laquelle permet de retenir une personne pendant quatre heures – celle-ci n’a finalement jamais eu lieu. Pour les agents, c’est parce qu’Aziz E. leur aurait, juste devant la cellule, montré sa carte sur son téléphone.

Ce serait d’ailleurs pour consulter sa carte que les quatre policiers auraient manipulé le téléphone à l’accueil. Une version répétée par Vincent R., qui avait pourtant admis lors de son audition avoir supprimé la vidéo « de peur qu’elle ne circule sur les réseaux sociaux ou ne tombe entre de mauvaises mains ». Cela a agacé la juge : « Nous sommes des professionnels après tout. » « Nous n’avons pas besoin de quatre personnes pour contrôler une carte d’identité », renchérit plus tard le procureur, qui rappelle aux policiers que le fait d’être filmé peut être « très désagréable, mais c’est néanmoins légal ». Mais ces actes, eux aussi, ne sont pas poursuivis. Maître Déborah Zubillaga, l’avocate d’Aziz E., dénonce quant à elle un « prétexte fallacieux » et envisage d’initier une nouvelle procédure pour « détention arbitraire ».

Pour les trois gestes poursuivis, le procureur requiert six mois d’emprisonnement avec sursis contre Thomas B, accompagnés d’une interdiction de port d’arme pendant cinq ans. Concernant son collègue Vincent R, la magistrate demande trois mois avec sursis. Le jugement est attendu le 5 décembre.

Journée unique "crise agricole" sur France Bleu Hérault

HERAULT NEWS

Journée unique “crise agricole” sur France Bleu Hérault

Il y a un an, France bleu Hérault réalisait une émission spéciale dédiée aux agriculteurs engagés. Aujourd’hui, un an plus tard, nous consacrons une nouvelle journée spéciale à la crise agricole, et nous sommes impatients de recevoir vos retours !

Le programme
De 09h à 10h, France bleu Hérault accueillera des représentants du secteur agricole. À 13h, Wendy Bouchard interviewera le Premier ministre, Michel Barnier, qui répondra aux questions des auditeurs. Contactez France bleu Hérault dès 6h pour prendre part à cette journée spéciale, donner votre opinion, exprimer votre ressenti et poser vos questions au Premier ministre : 04 67 58 6000

Le copilote terrestre d'IA de la NASA sera à votre disposition pour répondre à vos interrogations concernant notre planète.

INTELLIGENCE ARTIFICIELLE

Le copilote terrestre d’IA de la NASA sera à votre disposition pour répondre à vos interrogations concernant...

La NASA collabore avec Microsoft pour développer un chatbot basé sur l’IA afin de simplifier l’accès et la compréhension des données scientifiques concernant la Terre. Cet outil, nommé Earth Copilot, sera en mesure de répondre à des interrogations sur notre planète en résumant la vaste gamme d’informations géospatiales fournies par la NASA en réponses facilement compréhensibles. Pour mettre en place cet outil, la NASA intègre l’intelligence artificielle dans son dépôt de données, permettant à Earth Copilot de se référer à ces données lors de la réponse à des questions comme « Quel était l’impact de l’ouragan Ian sur l’île de Sanibel ? » ou « De quelle manière la pandémie de COVID-19 a-t-elle influencé la qualité de l’air aux États-Unis ? » La NASA a pour objectif de « démocratiser » l’accès aux données scientifiques grâce au lancement d’Earth Copilot, car accéder et comprendre les renseignements contenus dans la base de données de la NASA est actuellement plus complexe pour les individus qui ne sont ni chercheurs ni scientifiques. « Pour de nombreuses personnes, localiser et extraire des renseignements implique de parcourir des interfaces techniques, de saisir des formats de données et de comprendre les subtilités de l’analyse géospatiale – des compétences pointues que peu d’utilisateurs non spécialisés possèdent », a déclaré Tyler Bryson, vice-président des secteurs publics et de la santé chez Microsoft, dans le communiqué. « L’IA pourrait optimiser ce processus, réduisant la durée nécessaire pour obtenir des informations à partir des données terrestres à quelques secondes. Actuellement, Earth Copilot n’est accessible qu’aux scientifiques et aux chercheurs de la NASA, qui vont évaluer les capacités de cet outil. Ils examineront par la suite son intégration dans la plateforme d’analyse, de visualisation et d’exploration de données (VEDA) de la NASA, qui permet déjà d’accéder à certaines données de l’agence.