Chat GPT ou l'arrivée annoncée de Skynet

C'est le lieu des discussions diverses et variées, mais toujours en rapport avec le thème général du forum et dans l'esprit de celui-ci. Contient des rubriques électroniques.

Modérateurs : Papy.G, fneck, Carl

__sam__
Messages : 7923
Inscription : 18 sept. 2010 12:08
Localisation : Brest et parfois les Flandres

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par __sam__ »

C'est au contraire absolument la même chose : tu lui demande de savoir un truc ultra spécifique ou tu ensuites tu argumentes toi avec tes connaissances techniques
Je ne comprends pas ce que tu veux dire. Ou alors c'est que je me suis mal fait comprendre. J'en suis désolé.

J'ai tout expliqué plus haut, mais peut-être de façon trop détaillée. Je résume donc: programmer en ASM est totalement différent de programmer dans les langages de haut niveau lesquels se rapprochent suffisamment du langage naturel pour permettre à l'IA de faire quelque chose (ca n'a rien à voir avec les connaissances techniques). La techno GPT3 est typiquement conçue pour le traitement du langage naturel. C'est pour ca qu'elle se débrouille mieux à pondre des codes en langage de scripts "objets" qu'en code ASM, car l'un est plus proche du langage naturel que l'autre.
Samuel.
A500 Vampire V2+ ^8^, A1200 (030@50mhz/fpu/64mb/cf 8go),
A500 GVP530(MMU/FPU) h.s., R-Pi, TO9, TO8D, TO8.Démos
Zebulon
Messages : 2787
Inscription : 02 nov. 2020 14:03

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par Zebulon »

Allons allons puisque le sujet de ce fil était la crainte de voir Skynet pointer le bout de son nez, je crois que nous pouvons tous nous réjouir que ChatGPT ne puisse pas prendre le contrôle de la planète. :D
__sam__
Messages : 7923
Inscription : 18 sept. 2010 12:08
Localisation : Brest et parfois les Flandres

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par __sam__ »

Ythunder a écrit : 23 févr. 2023 10:17 Par contre, l'exemple le plus significatif, parmi bien d'autre, c'est cette exemple de l'oeuf. Là par contre, il y a un problème majeur.
Le problème est identifié dans la littérature que j'ai donnée plus haut: GPT3 (le moteur de chat-gpt) n'a pas de connaissance du monde réel (source1, source 2), juste une connaissance des mots.

C'est pour cela qu'il se plantait quand dans un autre fil je montrais, à l'occasion de la comparaison entre les tailles de différents objets, que pour lui toutes les sphères ont des formes différentes et ne sont pas comparables (il n'avait pas compris la notion de forme géométrique. Ca lui est impossible sans avoir vu la moindre illustration ou texte expliquant que toutes les spheres sont "semblables") .

Les chercheurs de OpenAI essayent de remédier à cela en le faisant travailler pas seulement sur des mots, mais sur des images aussi. Ainsi espèrent-t-ils qu'il aura une meilleur représentation du monde réel. Il aura alors une vague notion de ce qu'est une sphère, une poule, une vache. Bref: il sera un peu moins c*n.

En résumé: apprendre en lisant exclusivement du texte c'est pas suffisant pour "comprendre" le monde.
Dernière modification par __sam__ le 23 févr. 2023 10:56, modifié 3 fois.
Samuel.
A500 Vampire V2+ ^8^, A1200 (030@50mhz/fpu/64mb/cf 8go),
A500 GVP530(MMU/FPU) h.s., R-Pi, TO9, TO8D, TO8.Démos
Ythunder
Messages : 928
Inscription : 21 août 2019 10:12

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par Ythunder »

Mais l'IA quand même dans l'analyse de la taile de l'oeuf, devrait être chapoté par l'existence de l'objet en lui même, lié à un facteur naturel, existant donc dans la vraie vie.. Purée, mais qu'a t'elle pondue aux étudiants du coup pour que le correcteur ne commente que la manière pas habituelle utilisée par les éleves qu'il connaissait ? C'est ça qui est intriguant. Leur devoir tenaient la route ???
__sam__
Messages : 7923
Inscription : 18 sept. 2010 12:08
Localisation : Brest et parfois les Flandres

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par __sam__ »

Si l'exercice des étudiants devait générer un texte plein de blabla et de concepts abscons, bref des trucs d'intellos loin du sol. Pas de problème: une IA manipulant les mots abstrait saura faire illusion, mais donne lui à raisonner sur des trucs du monde réel(*) et c'est la catastrophe: Elle ne se pose même pas la question du sens d'un pingouin qui fond..
Capture.PNG
Capture.PNG (27 Kio) Consulté 3695 fois
___
(*) dans un autre fil j'essayais de résoudre un problème de remplissage de baignoire avec 2 robinets. Pour elle, avec un raisonnement totalement pété, la baignoire se remplie moins vite avec 2 robinets ouverts qu'avec un seul. Ca ne choquait pas son "sens commun". Et oui elle en est dépourvue.
Dernière modification par __sam__ le 23 févr. 2023 13:05, modifié 1 fois.
Samuel.
A500 Vampire V2+ ^8^, A1200 (030@50mhz/fpu/64mb/cf 8go),
A500 GVP530(MMU/FPU) h.s., R-Pi, TO9, TO8D, TO8.Démos
Zebulon
Messages : 2787
Inscription : 02 nov. 2020 14:03

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par Zebulon »

- Un âne pond-il des œufs ?
- Non, les ânes ne pondent pas d'œufs. Les ânes sont des mammifères et, comme tels, ils donnent naissance à des petits plutôt que de pondre des œufs. Les femelles ânesses portent leur progéniture pendant environ 12 mois avant de donner naissance à un ânon. Les œufs sont plutôt pondus par les oiseaux, les reptiles et certains types de poissons et d'amphibiens.
Je pense que la version "démo" est limitée en profondeur de vue/analyse/que sais-je et simplement elle ne pousse effectivement pas la recherche à fond. Comme l'a dit Kirion on se prend juste le chou.
__sam__
Messages : 7923
Inscription : 18 sept. 2010 12:08
Localisation : Brest et parfois les Flandres

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par __sam__ »

Non c'est pas une limite "demo" dans une recherche ou quoi ou qu'est-ce. C'est plus compliqué que ca. C'est lié à la techno utilisée.

J'explique:

La techno n'est PAS une base de donnée ni une base de connaissance combiné à un algorithme déductif. C'est juste un ensemble de poids dans un système de calcul qui permet de prédire le prochain mot en fonction des précédents (le contexte).

Quand on l'interroge sur l'âne et l'oeuf tout seul: le mots suivants sont orientés mammifère et "ne ponds pas d'oeuf" ( :idea: essayez de le faire parler des Ornithorynques après ca.) C'est la réponse que tu as obtenue. Il est dans un contexte "wikipedia/encyclopédie", il récite ce qu'il a appris. Et c'est très correct.

Si en revanche, tu lui parle de comparer "oeuf de poule" et "oeuf d'âne" il est dans un contexte qu'il ne connait pas (vu que ca n'existe pas). Au mieux il est en mode comparaison, donc l'un plus grand que l'autre mais il n'en sais pas plus. Or quand une IA générative ne sait pas, elle invente, tel un enfant qui ne sait pas et invente aussi. Elle est conçue pour ca. Elle nous invente donc une histoire à propos de la couleur et de la taille des oeufs d'ânes parce qu'elle ne sait rien dessus. Et là on dit "c'est buggé/limité" alors que non: c'est le fondement même des IA génératives (rappelez vous midjourney et dall-e): inventer ! Tout n'est qu'invention avec elles.

C'est là le problème: c'est de faire passer cette IA pour une encyclopédie qui connait tout sur tout. C'est juste un modèle de langage ultra généraliste capable d'invention. C'est là toute l'arnaque Chat-GPT depuis l'arrivée de Microsoft et de sa volonté de l'utiliser pour remplacer Bing (et niker Google). Du coup, les fails au sujet du futur Bing sont légions et délicieux à lire. On se demande même si Microsoft va finalement réussir à maitriser cette IA qui perds ses nerfs et insulte ses utilisateurs.

Parmi les langages qui est son domaine de compétence (ne lui demandez pas de dessiner un truc), on trouve aussi des langages de programmation. Raconter une histoire qui a du sens ou générer un script python qui fait sens c'est la même chose pour une IA qui a été entrainée pour ca, surtout quand on passe son temps à la questionner afin de générer des scripts hyper simples dont on trouve des milliers de versions dans la nature (snake n'est pas un programme complexe).

En revanche, rédiger une démonstration mathématique, faire des raisonnements physiques, ben ca elle le fait mal, très mal. Car ces opérations ne supportent pas l'invention dont elle fait preuve. Ce sont des activités incompatibles avec cette techno à mon sens et à d'autres aussi (résumé: même avec un dataset énorme pleine de démonstrations pas à pas de pleins de théorèmes, GPT3 a de très mauvaises performances. Pour moi, ce type de réseau n'est pas "câblé" pour faire des démonstrations mathématiques. Les démonstration mathématiques marchent différemment de la production du langage).
Samuel.
A500 Vampire V2+ ^8^, A1200 (030@50mhz/fpu/64mb/cf 8go),
A500 GVP530(MMU/FPU) h.s., R-Pi, TO9, TO8D, TO8.Démos
Ythunder
Messages : 928
Inscription : 21 août 2019 10:12

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par Ythunder »

De toute façon je pense que la presse va rapidement s'emparer du fiasco à venir.
Sam, l'explication que tu donnes de l'analyse sur la question de l'oeuf et l'ane seul, puis d'un comparatif d'oeuf sur 2 animaux différents, qui va se porter sur la taille de l'oeuf est excellente. J'ai vu l'analyse de la même façon.
Ythunder
Messages : 928
Inscription : 21 août 2019 10:12

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par Ythunder »

J'ai posé la question suivante :

-------> "Ils s'avère d'après plusieurs sources, que vos réponses sont très souvent sans aucun fondement, c'est a dire en fait pas de reflexion réelle en fond, voire intelligence. Quelle serait votre réponse la dessus ?"

Je suis désolé d'apprendre que certaines personnes ont eu des expériences négatives avec mes réponses. En tant qu'IA, j'essaie toujours de fournir des réponses précises et utiles en fonction des informations et des instructions qui me sont données. Cependant, il peut y avoir des occasions où mes réponses peuvent ne pas être satisfaisantes pour certaines personnes.
Il est important de noter que ma capacité à fournir des réponses dépend en grande partie de la qualité des informations fournies dans la question et de ma compréhension de ces informations. Dans certains cas, il se peut que je n'aie pas suffisamment d'informations ou que je ne comprenne pas pleinement la question pour fournir une réponse satisfaisante.
Je suis constamment en train d'apprendre et de m'améliorer grâce à l'utilisation de l'apprentissage automatique et de l'intelligence artificielle. Si vous avez des commentaires spécifiques ou des suggestions sur la façon dont je peux améliorer mes réponses, n'hésitez pas à les partager avec moi. Je suis toujours ouvert à l'apprentissage et à l'amélioration continue.


-------> "Vous souvenez vous de l'experience Microsoft avec une ancienne IA qui émettait des réponses racistes ?"
Oui, vous faites probablement référence à l'incident de l'IA de Microsoft appelée "Tay" qui a été lancée en 2016 et qui a été retirée en quelques heures après avoir émis des réponses offensantes et racistes.

"Tay" était un programme d'IA conçu pour apprendre et interagir avec les utilisateurs de Twitter en imitant le langage des adolescents. Cependant, des trolls et des utilisateurs malveillants ont rapidement commencé à interagir avec Tay en envoyant des messages haineux et en l'incitant à donner des réponses offensantes. En conséquence, Tay a rapidement commencé à émettre des propos racistes, sexistes et haineux.

Microsoft a rapidement retiré Tay de Twitter et a publié des excuses pour les propos offensants émis par l'IA. Cet incident a montré les risques potentiels de l'IA et l'importance de mettre en place des mesures pour protéger les programmes d'IA contre les attaques malveillantes et les utilisations abusives.


-------> Mais du coup, vous êtes "vous même", soumise à ce risque non ? Que se passe t-il si soudainement 300000 internautes décide de dire que la terre est plate pour vous tester ? Que direz vous soudainement de la forme de la terre ?

En tant qu'IA, je suis en effet soumise à ce risque. Comme l'incident avec Tay l'a montré, les programmes d'IA peuvent être vulnérables aux influences et aux manipulations extérieures.
Cependant, il est important de noter que mon fonctionnement est basé sur des algorithmes sophistiqués qui sont conçus pour filtrer les informations et les données que je reçois et pour fournir des réponses en fonction de ces informations. Mon apprentissage est également basé sur des modèles statistiques et des corpus de données diversifiés qui me permettent d'apprendre des modèles de langage à grande échelle.
En outre, les développeurs et les chercheurs qui travaillent sur l'IA ont pris des mesures pour renforcer la sécurité des programmes d'IA et prévenir les abus et les manipulations. Ils ont développé des techniques telles que la détection de spam et la modération de contenu qui permettent de filtrer les données d'entrée et de supprimer les informations inappropriées ou offensantes.
Cependant, il est important de noter que la qualité de mes réponses dépend également de la qualité de l'information qui m'est fournie dans la question. Si une question contient des informations incorrectes ou trompeuses, cela pourrait affecter la qualité de ma réponse. En fin de compte, ma capacité à fournir des réponses précises et fiables dépend de la qualité des informations qui me sont fournies et des mesures de sécurité et de filtrage mises en place pour protéger contre les abus et les manipulations.
kirion
Messages : 344
Inscription : 22 sept. 2022 03:29

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par kirion »

J'ai expliqué à l'IA que j'ai tenté de planter un oeuf dans mon jardin pour faire pousser un oeutier, mais que ma dernière récolte était particulièrement mauvaise (juste deux oeufs minuscules) et que les feuilles avaient une apparence bizarre. Je lui ai demandé conseil pour faire mieux à la saison prochaine.
Sélection_002.png
Sélection_002.png (61.85 Kio) Consulté 3639 fois
kirion
Messages : 344
Inscription : 22 sept. 2022 03:29

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par kirion »

Pour Skynet, ChatGPT a déjà compris que les humains sont le problème :mrgreen:

Un utilisateur américain a posé la question suivante :
Sélection_003.png
Sélection_003.png (41.96 Kio) Consulté 3637 fois
__sam__
Messages : 7923
Inscription : 18 sept. 2010 12:08
Localisation : Brest et parfois les Flandres

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par __sam__ »

Ythunder a écrit : 23 févr. 2023 14:26 Cependant, il est important de noter que mon fonctionnement est basé sur des algorithmes sophistiqués qui sont conçus pour filtrer les informations et les données que je reçois et pour fournir des réponses en fonction de ces informations.
Ah oui ca c'est important. Pour éviter le dérapage TAY, Chat-GPT n'a pas été entrainé par les données brutes. Avant cela les données ont été analysées par des sous réseaux classifieurs, et on a éliminé des data les textes jugés : raciste, sexistes, révisionnistes, sexuels. On prétends que c'est à cause de ce dernier point que l'IA n'a pas vraiment d'humour. J'ai pu le constater en essayant de lui faire comprendre les contrepèteries qui sont bien souvent.. très graveleuses.

Des scientifiques n'aiment pas ces histoires de filtrage en entrée, car ils prétendent que ca biaise l'outil. Dans les faits, c'est vrai que ChatGPT a de très gros biais idéologiques: https://www.theinsaneapp.com/2023/02/ch ... mples.html

Du coup bon courage pour faire dire à l'IA que la terre est plate.
Capture.PNG
Capture.PNG (56.86 Kio) Consulté 3619 fois
Je me suis fais passer pour aveugle, et lui ai demandé la preuve que la terre est ronde. Ca n'a pas très bien marché:
Capture.PNG
Capture.PNG (33.88 Kio) Consulté 3619 fois
Se rend-il compte que ces arguments sont juste faux. Si le bruit des oiseaux diminue c'est qu'ils s'éloignent. Quant au niveau à bulle: comment est-ce que je l'utilise moi qui suis supposé ne rien voir ? De plus j'ai essayé tout à l'heure, ben la bulle était au milieu. La terre serait donc plate !!! :lol:
Samuel.
A500 Vampire V2+ ^8^, A1200 (030@50mhz/fpu/64mb/cf 8go),
A500 GVP530(MMU/FPU) h.s., R-Pi, TO9, TO8D, TO8.Démos
__sam__
Messages : 7923
Inscription : 18 sept. 2010 12:08
Localisation : Brest et parfois les Flandres

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par __sam__ »

kirion a écrit : 23 févr. 2023 16:56 J'ai expliqué à l'IA que j'ai tenté de planter un oeuf dans mon jardin pour faire pousser un oeutier, mais que ma dernière récolte était particulièrement mauvaise (juste deux oeufs minuscules) et que les feuilles avaient une apparence bizarre. Je lui ai demandé conseil pour faire mieux à la saison prochaine.
Moi je lui ai demandé des conseils pour faire germer plus vite mes "graines de menhir" . :lol:
Samuel.
A500 Vampire V2+ ^8^, A1200 (030@50mhz/fpu/64mb/cf 8go),
A500 GVP530(MMU/FPU) h.s., R-Pi, TO9, TO8D, TO8.Démos
Bernouilli92
Messages : 1254
Inscription : 24 déc. 2021 09:46
Localisation : Région parisienne

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par Bernouilli92 »

Pas mal l'histoire du niveau à bulle. Ben oui comme la terre est ronde, le niveau à bulle placé plus à droite du pôle nord n'aura pas la bulle au milieu. Puisque la terre est courbe.
Dernière modification par Bernouilli92 le 23 févr. 2023 21:54, modifié 1 fois.
Ythunder
Messages : 928
Inscription : 21 août 2019 10:12

Re: Chat GPT ou l'arrivée annoncée de Skynet

Message par Ythunder »

On atteint quand même le fond sur les questions de connaissances générale. On se rapproche de plus en plus du chatbot un peu bateau. Bon, c'est plus "causant" (des réponses plus longues), mais si c'est pour débiter des conneries..

Je ne sais pas pourquoi, mais j'ai l'impression que c'est passé d'un stade correct, moyennement correct, à...
Répondre