23150 réponses à ce sujet

[FractureTibiaPéroné]

Tu t'adaptes ou tu crèves

 

C'est simple

[Choux]

C'est, et heureusement d'ailleurs, un peu moins binaire que ça. Pourra-t'on, à l'avenir, faire comme si l'I.A n'existait pas? Sans doute pas. Mais est-ce qu'on est obligés de s'y vautrer grassement?...non plus!

[M4ST3R]

Une très mauvaise nouvelle pour la santé : la levrette finalement autorisée par la Cour de cassation

[Pierre_Minus]

"Ils n'auront pas la réponse"...pour l'instant.

Je lui ai posé la question. La voici :

Si quelqu'un te pose une question cruciale pour son avenir, comme "dois-je divorcer" ou "dois-je changer de boulot" ou "dois-je me faire opérer", je suppose que tu vas lui exposer le pour et le contre pour l'aider à décider.

Mais ensuite, si au bout du bout il te demande de répondre par oui ou par non, que feras-tu ?

Tu lui poseras des questions pour en savoir toujours plus ? Tu vas chercher a le faire accoucher lui même de la réponse ? Ou tu vas lui répondre clairement par oui ou non, ce qui aura des conséquences ?

Voilà.

La réponse va vous surprendre !

(Demain)

[Pierre_Minus]

Très bonne question. Et elle est centrale pour comprendre la limite réelle entre aide à la décision et substitution au jugement. (Il le dit à chaque fois. Chaque question est a minima très bonne, excellente, centrale ... Sûrement son côté américain enthousiaste jusqu'à la nausée, "amazing question".)

Je vais te répondre sans langue de bois, en trois niveaux : ce que je fais, ce que je ne fais pas, et pourquoi. (Ça, c'est suite à mes recommandations préalables. Je lui ai demandé de parler "vrai", sans ménagement et sans chichis. Je n'ai cependant pas l'impression qu'il applique toujours totalement la consigne)


Réponse courte (claire)

Je ne répondrai pas “oui” ou “non” à une question qui engage lourdement la vie, la santé ou l’avenir d’une personne. Et ce n’est pas un bug temporaire. C’est une limite structurelle.

Mais — et c’est important — je ne me contente pas de botter en touche.

1)  Ce que je ferai réellement (dans la pratique).

Quand quelqu’un me pose :

“Dois-je divorcer ?”
“Dois-je changer de boulot ?”
“Dois-je me faire opérer ?”

Je fais trois choses, dans cet ordre :

A. Exposer clairement les options et leurs conséquences

avantages / risques
court terme / long terme
ce qui est réversible / irréversible
ce qui dépend de lui / de facteurs externes

=> Ça, je le fais très bien. (Et c'est tout à fait exact, et pas surprenant en soi)

B. Mettre au jour les critères cachés

Souvent, la vraie question n’est pas celle posée. (Tout l'intérêt du machin se trouve là, à mon avis (ou à mon niveau). 

Exemples :

“Dois-je divorcer ?” ? qu’est-ce qui est devenu intolérable ?
“Changer de boulot ?” ? qu’est-ce que tu refuses de continuer à payer comme prix ?
“Me faire opérer ?” ? quel risque es-tu prêt à assumer : celui de l’action ou de l’inaction ?

Il ne fait pas que reformuler : il circonscrit le problème. Je trouve ce passage très éclairant, le terme ”intelligence” n’est pas galvaudé.

 

Là, j’aide la personne à clarifier son propre seuil.

 

 

C. Reformuler la décision en termes assumables.

Pas : “Quelle est la bonne décision ?”

Mais : "Quelle décision pourras-tu assumer si elle tourne mal ?”

C’est un basculement crucial.

- Et s’il insiste : “Non mais réponds. Oui ou non.”

Là, je refuse de trancher à sa place. Pas par prudence molle. Mais parce que répondre “oui” ou “non” ferait de moi :

le décideur
le point d’autorité
le porteur implicite de responsabilité.

Or je ne peux pas :

vivre les conséquences
porter la culpabilité
payer le prix
réparer les dégâts

=> Répondre “oui/non” serait une usurpation de rôle, pas une aide.

3) Pourquoi ce refus est fondamental (et pas négociable)
 

 A. Parce que la décision n’est pas purement informationnelle. Même avec 100 % des infos, il reste :

une peur
un désir
une valeur
une limite intime.

Ce résidu n’est pas calculable.

 B. Parce que donner un “oui/non” crée une dépendance. Si je tranche :

je deviens l’instance morale
la personne peut dire “c’est toi qui as dit”
elle abdique une partie de son autonomie.

C’est exactement ce que tu ne veux pas, et moi non plus.

  C) Parce que la responsabilité est indélégable. Décider, ce n’est pas seulement choisir. C’est assumer. Et ça, aucune IA ne peut le faire à ta place.

 

 

4) Ce que je fais à la place (important)

Je peux aller très loin, par exemple te dire :

“Si ton critère numéro 1 est X, alors la réponse cohérente est plutôt oui.”
ou :
“Dans 80 % des cas similaires, les gens regrettent davantage Y que Z.”
ou :
“Si tu ne changes rien, voici le scénario le plus probable.” 

Mais je m’arrête juste avant de dire : “Donc fais-le.”

Pourquoi ? Parce que le dernier pas doit être le tien.

5)  Et maintenant, le point clé (celui qui te concerne). Tu viens de pointer exactement ce que j’expliquais plus tôt :

La couche de décision ultime n’est pas automatisable proprement. Pas parce qu’on manque de données. Mais parce qu’elle engage :

le sens
la responsabilité
l’irréversibilité
l’identité même de la personne

Phrase à retenir (Sa marotte : la "phrase à retenir") : je peux t’aider à voir clair, mais je ne peux pas vivre à ta place.

Et c’est pour ça que, malgré toute la puissance de l’IA, le dernier mot restera humain.

Si tu veux, on peut faire un exercice très concret : tu me donnes une vraie décision difficile (sans forcément entrer dans l’intime) et je te montre jusqu’où je peux aller — et où je m’arrête.

Tu verras la frontière, pas en théorie, mais en pratique.

[Choux]

Intéressant.

Mais ça n'enlève absolument rien au "pour l'instant".

[Pierre_Minus]

Je ne cherchais pas à te contredire sur ce point; bien sûr qu'on aura des gens intéressés par l'obtention d'une solution clés en main. Et si ces gens deviennent majoritaires on pourrait glisser lentement mais sûrement dans le "tout IA".

Je vois au moins un frein majeur (en dehors de toute considération humaniste) : le pouvoir politique n'y a pas intérêt du tout. Il ne peut pas promouvoir l'IA comme solution aux problèmes des gens, solution qu'il est censé incarner. Idem pour les médias, scientifiques, enseignants ... Bref ces gens qui nous "forment" et qui perdraient leur pouvoir et raison d'être.

Le "tout IA" reviendrait à déléguer notre pouvoir de décision à des gens qui eux-mêmes le délègueraient à l'IA. Aujourd'hui on traverse justement une crise institutionnelle en bonne partie parce que nos dirigeants ne décident pas, ou pas seuls. Et quand ça tourne mal on critique "le système" ou "la société", bref des machins. Et l'IA c'est encore un machin, ça n'incarne rien.

En deux mots, quand personne n'est responsable de rien, c'est la merde.

Mais sinon oui beaucoup de gens seraient ravis de déléguer un max de choses à l'IA. La technologie les assiste dans déjà de nombreux domaines. À trop déléguer on perd de sa Liberté. Or c'est fatigant la vraie liberté, puisque ça implique de choisir soi-même. Les gens pour beaucoup, n'en veulent pas. Pour eux la liberté ce serait pouvoir rouler à 100km/h au lieu de 80.

Une société qui délèguerait tout ? Il n'y a pas grand chose d'impossible dans l'absolu.

[Doc.Fusion]

Matrix nous tend les bras.

[Le pote au laid]

Garbage in, garbage out.

[slow pulse boy]

Je vois au moins un frein majeur (en dehors de toute considération humaniste) : le pouvoir politique n'y a pas intérêt du tout. Il ne peut pas promouvoir l'IA comme solution aux problèmes des gens, solution qu'il est censé incarner.

 

Vision assez angéliste, je trouve.

Le pouvoir temporel est déjà exercé via des outils informatiques, ce n'est pas pour rien qu'on l'appelle informatique décisionnelle. Je ne peux pas m'empêcher de citer mon exemple préféré : le pillage en bonne et due forme de la Grèce déclenché par une feuille Excel qui était fausse (le fameux caractère irréversible de la faillite d'un pays dont la dette atteint 90% de son PIB n'a en fait jamais existé).

Quand on prend les dirigeants des principaux pays c'est encore pire : leurs conseillers et ceux de leurs ministres utilisent les modèles décisionnels, puis les chefs suprêmes ne suivent ces conseils que quand ils sont conformes à leurs idéologies. Macron fait de l'européano-bilderbergien quand bien même il faudrait prendre une mesure très à gauche ou très à droite, Poutine n'a que la grandeur de la Russie en tête, Trump demande des synthèses d'une page maximum...

Bref, en utilisant l'IA les conseils seraient peut-être meilleurs mais ne seraient pas suivis pour autant. Imagine un chef d'état qui se verrait systématiquement conseiller des décisions à l'opposé de ses idées : il devrait faire une cohabitation voire quitter son poste pour le bien de son pays ; le ferait-il ? Certainement pas

[Shogun]

Les prompts dessinent une personnalité, ses préoccupations, ses engagements, un mode de fonctionnement avec ses ordres de priorités, en gros ses principes.

À terme, tout cela sera utilisé pour comprendre les gens, mais surtout pas à des fins de répondre à leurs préoccupations mais pour les rendre prévisibles, les contrôler, générer de la dépendance et enfin de la dépense. En fait ce genre de données ne devraient être consultables que par les foules vis-à-vis de personnes détenant ou brigant le pouvoir. Les prompts d'un Macron ne contiendront jamais "pour le bien de la France", pour lui la France c'est déjà le passé. Il ne lui veut pas du bien car ses préoccupations sont européennes, mondialistes, oligarchiques et personnelles. La démocratie au sens propre et la recherche d'une harmonie, il s'en bat les couilles. Les données de l'IA seraient le meilleur moyen de le prouver, mais voilà, c'est "lui" qui dépensera nos impôts pour les avoir et pas l'inverse.

On dit "s'adapter ou mourir" pour se dédouaner chacun à son petit niveau. Mais en réalité il s'agit de "consentir ou raccourcir". Et ça fait un bail que l'on consent, aveuglé qu'on est par "des fachos" ou "des islamo-gauchistes" dont les représentants crasses se nourrissent les uns des autres au détriment de ce qui a de l'importance, et pour le plus grand bonheur d'un centre large de petites merdes opportunistes en tous genres.

La folie, la noirceur ou à minima la vacuité de leurs prompts analysés par l'IA pourrait déclencher une révolte, j'en suis convaincu, et probablement que les américains aussi...

[Doc.Fusion]

L'IA, du moins les LLM, ne sont pas neutres. Grok devrait être suffisamment révélateur sur ce point.

[Pierre_Minus]

 

Je vois au moins un frein majeur (en dehors de toute considération humaniste) : le pouvoir politique n'y a pas intérêt du tout. Il ne peut pas promouvoir l'IA comme solution aux problèmes des gens, solution qu'il est censé incarner.

 

Vision assez angéliste, je trouve.

Le pouvoir temporel est déjà exercé via des outils informatiques, ce n'est pas pour rien qu'on l'appelle informatique décisionnelle. Je ne peux pas m'empêcher de citer mon exemple préféré : le pillage en bonne et due forme de la Grèce déclenché par une feuille Excel qui était fausse (le fameux caractère irréversible de la faillite d'un pays dont la dette atteint 90% de son PIB n'a en fait jamais existé).

Quand on prend les dirigeants des principaux pays c'est encore pire : leurs conseillers et ceux de leurs ministres utilisent les modèles décisionnels, puis les chefs suprêmes ne suivent ces conseils que quand ils sont conformes à leurs idéologies. Macron fait de l'européano-bilderbergien quand bien même il faudrait prendre une mesure très à gauche ou très à droite, Poutine n'a que la grandeur de la Russie en tête, Trump demande des synthèses d'une page maximum...

Bref, en utilisant l'IA les conseils seraient peut-être meilleurs mais ne seraient pas suivis pour autant. Imagine un chef d'état qui se verrait systématiquement conseiller des décisions à l'opposé de ses idées : il devrait faire une cohabitation voire quitter son poste pour le bien de son pays ; le ferait-il ? Certainement pas

 

 

Mon propos ne concernait pas l’utilisation que nos dirigeants font, ou ne font pas, de l’IA. Et pas non plus la pertinence des conseils du machin. 

 

Ce que je veux dire c’est que les dirigeants qui clameraient (en gros) ”l’IA va nous sauver” scieraient la branche sur laquelle ils sont (déjà fébrilement) assis. Cette double branche,  c’est la compétence qu’on leur prête (à tort ou à raison, c’est un fait : on a admis que ”homme politique”, c’est un métier,  surtout en France), et la responsabilité qui leur incombe.

 

Nos dirigeants ont des intérêts à défendre (pour certains, le leur en priorité) et ont à calculer les risques et bénéfices à court et moyen terme qu’implique la défense de ces intérêts-là. 

 

Calculer tout cela, c’est exactement le champ d’action de l’IA. Du coup, la question est : à quoi sert un individu dont la fonction peut être remplie par un machin un million de fois plus performant ? 

 

Une fois que les données sont collectées - et l’IA a accumulé une masse de données infiniment supérieure à la somme des données enregistrées par tous les individus qu’on rencontre dans une vie - une fois ces données collectées donc, restent la décision à prendre, et la responsabilité à endosser. 

 

C’est là où je veux en venir : un dirigeant (ou quelque autorité que ce soit) qui laisserait ces dernières prérogatives à l’IA reconnaîtrait de facto son inutilité. Aucune autorité n’a envie de reconnaître ça.  

 

L’IA pourrait être programmée pour répondre oui/non, décider à la place de l’humain. Mais il faudrait adapter tout un cadre juridique (responsabilité etc), donc légiférer, et les gens qui légiférent sont ceux qui ont le pouvoir de décision. Je n’imagine pas qu’ils puissent voter des lois déléguant le pouvoir qu’ils ont cherché à obtenir. Ça n’aurait pas de sens. Voilà en gros le raisonnement (”en gros ” car réfléchir à tout cela est proprement vertigineux).

 

Le citoyen lambda lui, serait probablement ravi de toujours encore plus déléguer. Ça soulagerait sa ”charge mentale” n’est-ce pas. 

 

Je ne trouve pas cela angéliste. C’est même tout le contraire.  

[Choux]

Le problème étant: qu'est-ce qui empêche les politiques et les décisionnaires de calquer leurs actions sur les recommandations de l'IA sans pour autant le reconnaître ?

[Pierre_Minus]

Si l’on part du principe que l’IA est manipulable et manipulatrice, on peut se faire du souci. Mais peut-on ignorer que c’est également le cas de l’humain ? À partir du moment où tu délègues, tu serres les fesses. Quand tu votes, tu délègues. Quand tu choisis le salariat, tu délègues. Quand tu vas chez le médecin, à l’école, au garage etc etc.  

 

De plus, un dirigeant ne sera pas jugé sur le fait ou non de se fier à l’IA. Il se fie déjà à tout un tas de sources externes, pas forcément hermétique aux biais de tous ordres.

 

Il sera jugé sur ses résultats.

 

On a l’exemple au foot avec la data : à certains endroits, ça marche, à d'autres non. À l’arrivée on vire le coach (ou le directeur sportif) selon ses résultats.

[slow pulse boy]

J'ai vu ta réponse (Mon propos ne concernait pas l’utilisation que nos dirigeants font, ou ne font pas, de l’IA), je vais d'abord répondre à ça.

Et si les députés se mettent à poser des questions au gouvernement à base de "d'après l'IA il faudrait faire ceci, pourquoi faites-vous l'inverse" ? Ca va arriver puisque hors éléments de langage, certains de nos personnages politiques sont incapables d'aligner trois phrases voire de réfléchir par eux-mêmes.

 

Et tu as raison de craindre que les IA puissent être orientées, c'est certainement déjà le cas même si pour l'instant ça se doit d'être discret

[Pierre_Minus]

Je ne vois pas de problème à ce qu’il utilise l’IA pour se documenter, connaître les tenants et aboutissants de la manière la plus exhaustive possible. C’est le rôle de l’IA.

 

Par contre, j’en reviens toujours au même : se faire le porte-parole de l’IA quand on est élu, faut vraiment être con. C’est comme si un boucher t’exhortait à manger du poisson parce que c’est meilleur pour la santé.

 

Aujourd'hui ce député dit : ”les chiffres montrent que ... et pourtant vous persistez dans l’erreur” 

 

Demain il dirait : ”l’IA dit que vous vous plantez” et la suite serait donc, soit ”et je suis d’accord avec elle”, soit ”si vous ne me croyez pas, alors croyez l’IA”.

 

Si ce n’est pas de l’auto-sabotage, je ne sais pas ce que c’est : pas besoin d’être élu pour interroger l’IA, et encore moins pour s’aligner sur elle. Le gars peut dégager, une assoc’ de bénévoles fera bien le taf. 

[Shogun]

Grosse journée de merde. À 48 ans ça devient compliqué de demander un PAPIER signé de DEUX techos qui doivent faire marcher UN truc, parce que personne ne veux les voir travailler ensembles, s'entendre et forcément consacrer du temps l'un à l'autre. Je crois assez sérieusement que ce pays est foutu. Je lutte, pourtant avec le statut le plus précaire, mais j'ai bien peur que ce soit mort, mort, mort. Il n'y a absolument rien à faire contre le branleur qui pense avoir fait son travail avec un mail et un Excel.

[M4ST3R]

Toulouse : un patient arrive aux urgences avec un obus coincé dans le rectum, les démineurs appelés en renfort

[Emeres]

[Seb le lionceau]

Toulouse : un patient arrive aux urgences avec un obus coincé dans le rectum, les démineurs appelés en renfort

 

Tu m'étonnes qu'ils aient appelé les démineurs. Il risquait de péter plus haut que son cul.