Reprise du message précédent :
@aintnoclue  

Le 4o me casse les burnes, je continue la discussion sur des sujets précis, il répond. PUIS régénère encore le reste de la discussion antérieure  
Et ici c'est assez long donc super relou

Drap je m'amuse depuis que j'ai ma RTX 4070 en local. voici ce qui fait un peu rager sur le topic RTX
 
 

Bon j'ai discuté avec GPT-4o qui me dit qu'il me sert à rien pour du python. Voir même pour GPT-4turbo.
Ca coûte moins cher et c'est plus rapide mais je m'en fous, je veux les meilleures réponses possibles.
Donc pour du code autant utiliser GPT4 "classic" ? Y'a t'il une différence en terme de données à jour entre ces modèles ?
Et j'ai aussi compris que le "o" était pour "omni", multimodal avec images, vidéos, sons jsais pas quoi, mais je m'en branle
 
Un exemple concret avec un code python où je demande de convertir une (petite) classe en dataclasses (une évolution de python) :

 
Avec GPT-4o il me sort un InitVar avec un default_factory, ce qui n'a pas l'air d'être tout simplement possible .
Si je lui demande s'il a raison sur ce point, il se démonte pas. Si je lui demande si initvar & default_factory sont compatibles alors il reconnait sa faute et corrigel e code.
Si j'utilise GPT-4turbo ou 4 normal, il fait pas l'erreur.
 
Sur chat.openai en gratos j'ai aussi tenté et il a pas fait l'erreur. Par contre il me dit qu'il est GTP-4turbo, je pense qu'on avait le 4o sur le gratos

Par rapport à ce que je disais plus haut, et après recul, j'ai pu me confirmer que 4o n'est pas adapté pour de la conversation avec reprise de points de détails et approfondissements. À la moindre question que je repose, il revient sur le sujet d'origine, et répète en boucle le contexte général (il est pas mauvais sur ce point certes, mais ça peut être 3, 4 fois d'affilée la même réponse). Si je veux approfondir, je suis obligé de repasser en v4 sinon j'ai l'impression d'avoir affaire à un perroquet  

+1 total pour la reprise de contexte, une plaie.
Tu y accède comment ?

Je suis toujours sur l'interface de chat de openAI. Sur reddit j'avais lu certains qui disaient que la 4o est une version accélérée, et donc dégradée, d'une version à venir.
Je ne suis que de loin l'actu, mais je m'étonne que ça saute pas plus aux yeux des utilisateurs, pour moi la 4o est inutilisable hors question 'oneshot'. Ce qui est étrange, vu la démo façon 'Her' qu'ils nous ont fait.

Hello, curieux de savoir ce que vous pensez de la qualité de la réponse ?

j'ai questionné mon IA locale avec ce prompt :

What is the most advance sample of code in typescript in terms of complexity ? give an example

Voici le résultat (pdf sur mon google drive) :
https://drive.google.com/file/d/1SN [...] drive_link

Pour moi c'est la 3.5 qui est inutilisable. La 4o est une approximation de la 4 bien plus rapide. Je trouve aussi que la 4 est plus performante mais sa lenteur est aussi assez frustrante. Donc la 4o est un intermédiaire, qui soulage les serveurs, minimise les coûts.

Vous avez vu qu'au sein d'une même conversation on peut faire régénérer une réponse par un autre modèle ?

Alors c'est impressionnant mais en vrai ça génère un résumé d'après les sous-titre hein, ça lit pas la vidéo

Bonjour les génies, pour ceux qui utilisent l'API chatGPT pour un bot, comment estimer le cout ?
Par exemple une personne qui pose 2-3 questions simples en lien avec un site, la formule "1 token = 0,75 mot" c'est une bonne estimation ?

 
Et sur une vidéo "muette", ça donne quoi ?

C'est une bonne estimation oui

Tu as ça si tu veux avoir le nombre exact de tokens :
https://platform.openai.com/tokenizer

Attention les tokens en sortie sont 3x plus chers que les tokens en entrée

Merci  

Non car un token correspond à 4 caractères. En anglais cela correspond à un mot mais pas en français où il faut en moyenne 5 caractères soit 0.8 token par mot.

De plus, l'utilisation d'un chat bot sous-entend qu'il s'agit d'un échange en mode conversationnel donc si le contexte initial est de 0 et l'input est de 50 tokens, la seconde question prendra en input :

- Le nombre de tokens de la première question (50 tokens)
- La réponse à la seconde question (x tokens)
- Le nombre de tokens de la seconde question (xx tokens)

Etc.

Pour avoir beaucoup utilisé l'API je peux te garantir qu'en mode conversationnel ce n'est pas du tout intéressant et que ChatGPT+ trouve là son intérêt.

Dans mon, cas pour de l'analyse de PDF, la vectorisation des coefficients de similarité consomme l'intégralité de la fenêtre contextuelle (32K, dépend du modèle utilisé) donc laisse moi te dire qu'en mode conversationnel la facturation est exponentielle et on arrive vite à $10 pour 5 questions sur un PDF de 30 pages)...

GPT-4o a divisé les tarifs de l'API par deux mais à mon sens cela reste très onéreux en mode conversationnel, et à moins d'avoir un business model adapté il faut garder à l'esprit que cela peut revenir très cher (sauf à interroger le PDF sans tenir compte du contexte pour limiter la casse)...

article : "Le lancement de GPT-4o génère la plus forte augmentation de revenu mobile pour ChatGPT" merci pour les sous sous @ChatGpt

 
En gros, ca serait pour un site très simple (site de réservation de cours sur le code de la route) et ca serait un bot pour permettre à des visiteurs qui souhaitent s'inscrire d'avoir des réponses très "bêtes". D'un coté, ca permettrait de décharger le boulot de la personne qui répond au téléphone.
En gros, si la personne pose 2 questions du genre "comment je peux m'inscrire au cours" ou "comment se passe l'examen", à la très très grosse louche, on parle de combien de € pour cet échange ?

A titre d'exemple:
J'ai un script qui appelle chatgpt3.5.
Ca lui envoie le texte OCR du contenu d'un PDF à chaque fois que je scanne un document. Potentiellement ce texte OCR peut être long (je coupe au nombre maxi de token admissible par chatgpt3.5).
Le prompt demande à chatgpt d'analyser le document et de me fournir un titre adequat pour nommer le pdf et la date du document.
Ce résultat est formaté sous forme d'un json de quelques lignes.
 
Chaque requête me coute entre 1 et 2 centimes.
 

Euh non pas du tout, le nombre de caractères d'un token est variable.

Non : https://help.openai.com/en/articles [...] count-them

Oui en moyenne, mais un token peut n'est pas fixé à 4 caractères

Tu peux mettre 5€ sur ton compte API openai et tester dans la sandbox, tu verras le nombre de token et le coût associé quasi en temps réel. Si tu veux utiliser Anthropic Claude y'a 5$ offerts sur l'api.

Tu peux aussi limiter la taille de texte en entrée pour les visiteurs de ton site à genre 500 caractères pour éviter qu'ils collent des quantités énormes de texte
Tu peux spécifier a l'api le nombre de token max à générer en sortie, et faire un prompt system demandant au llm d'être bref dans sa réponse.

Après si ton site a peu de visite ça va vraiment rien te coûter, tu peux même mettre toutes les informations (les réponses aux questions que tu anticipes de répondre) dans ton prompt système sans t'embêter à mettre en place un système de RAG, système qui te permettrait d'économiser des tokens si tu as vraiment une grosse base de connaissance à interroger.

Faut quand même préciser que ça ne va pas lui coûter grand chose si GPT-3.5 Turbo lui suffit car il ne coûte que $1.5/1M.... S'il a besoin d'un raisonnement plus avancé, GPT-4o lui coûtera 10x plus cher ($15/1M)...

Quelqu'un arrive a lancer Copilot online ce matin ?
https://copilot.microsoft.com/?cult [...] country=fr
Microsoft a foutu le bronx et ne semble plus autoriser l'accès hors de Edge

 
On est d'accord, mais "site de réservation de cours sur le code de la route" je pense que n'importe quel LLM fera l'affaire

Encore faut t-il se fier à la véracité de leur réponses.
Quel est le % d'erreur de GPT ou d'un LLM entrainé à une tâche éducative spécifique.
Dont la moindre information erroné te coutera 1 point au passage du code Officiel.

Non mais faut relire le cas d'utilisation, c'est pas dans le but de remplacer le prof d'auto école.

Non mais faut lire aussi ma réponse.
Le risque est de donner une information erroné en guise de réponse à des élèves qui sont en phase d'apprentissage
Donc comment peuvent ils mettre en doute l'information erroné de l'IA vu qu'il sont là pour apprendre ?  
Redemander à un instructeur humain derrière ?
 
Pour info sur les % de taux hallucinations dans le cadre de thème juridique :
les taux d’hallucination de GPT 3.5, PaLM 2 et Llama 2 sont respectivement de 69 %, 72% et 88 % en réponse à des requêtes juridiques spécifiques
https://www.actuia.com/actualite/ha [...] juridique/
 
Mais sinon oui si c'est juste une IA standardiste au téléphone, là sera un peu moins grave si elle hallucine sur les horaires d'ouverture le dimanche de l'auto école

Je crois vraiment que ce n'est pas le propos : le but est de répondre à des questions d'ordre pratique pour s'inscrire à des cours d'auto-école. Il n'est pas question de faire un bot qui répond à des questions sur le code de la route.

edit: ok donc maintenant t'as relu et édité ton message donc t'as bien compris

J'avais acheté le LTD de Chatbase et je n'utilise pas du tout mes crédits mensuels pour L'API donc si tu veux tester pas de souci... Ça prend 5 mn à setup...

J'ai aussi un abonnement (Pro) à docAnalyzer.ai et je n'utilise pas (encore) mon forfait pour l'API ou l'OCR donc si tu veux tester, c'est également possible (mais avec du GPT-3.5 Turbo car j'ai pas envie de donner accès à ma clé API GPT-4o quand même )

L'intention est là... peut mieux faire.

Ca reste impressionnant tout de même, ça va trop vite, dans 1 an ca va donner quoi l'IA ???

Y a mieux:
https://deepmind.google/discover/bl [...] -geometry/
 

 
C'est un dessin qui est introuvable sur le net ou bien l'IA a réussit à trouver des réponses existantes sur le net ?

C'est GPT 4o qui analyse l'image tout simplement, mais le résultat est médiocre. Idem avec un autre essai.

GPT-4o ne va pas aller sur le net pour voir si il y a les réponss toute faite. L'image est passée dans le modele multimodal puis il en ressort un résultat. Pour ce domaine, comparaison d'image, on sent que c'est pas encore trop ca.

Si vous voullez essayer un Where's Wally?, j'ai plus de token free pour le moment.

bah demande à chatgpt  

Hello, savez-vous ce qui me faut pour utiliser copilot dans Excel (online) ?
Copilot est active sur le PC (Win11) et je possèdent une licence Microsoft 365 E3.
 
L’icône copilote n'apparait pas sur le ruban Excel (même pas grisée) en l'ouvrant depuis Sharepoint.

Yo les pros, si je prends la version ChatGPT plus, je peux lui upload un fichier (doc ou pdf) pour lui demander de me réecrire les textes qu'ils contient ?
Environ 27 pages de textes ou devrais je le diviser en plusieurs pages ?

EDIT: oui ca marche