theShockWave a écrit :
Pourtant, ca reste être leur argument de vente dans leur intro C'est quoi, le lien vers ces "conclusions très explicites du system card" ?
|
https://www-cdn.anthropic.com/08ab9 [...] 6f52bc.pdf
Section cyber, p47. C'est moins explicite que dans mon souvenir, mais c'est quand même très clair (dans le system card, et dans le blog post associé) : le gain en détection de vulnérabilité est significatif (on passe de 0.67 à 0.83 sur la détection de vulnérabilité de CyberGym), mais Opus était déjà très fort. En revanche, ce qui est radicalement nouveau et suscite l'inquiétude des auteurs, c'est la capacité du modèle à exploiter les failles. Le projet Glasswing n'avait pas pour objet principal de détecter les nouvelles failles, mais d'essayer d'identifier lesquelles étaient les plus dangereuses en les confiant aux red teams appropriées.
theShockWave a écrit :
T'as des liens vers des sources fiables qui montrent que c'est pas juste du bullshit marketing pour ca aussi ?
|
Voici le rapport de l'Institut britannique pour la sécurité de l'IA, financé par l'État britannique.
skeye a écrit :
Citation :
OpenAI famously stated that its 2019 text generator, GPT-2, was "too dangerous to release" all at once.
|
2019. Et c'est Gemini qui le dit ![[:dawa] [:dawa]](https://forum-images.hardware.fr/images/perso/dawa.gif)
|
Non mais ok, j'ai mis la barre bas mais on est d'accord que quand je dis "personne ne dit que" je sous-entend "en étant pris au sérieux" ? Et on pourrait rajouter un critère de crédibilité : personne n'affirme qu'un modèle est trop dangereux au point de se restreindre de le publier... jusqu'à Mythos.
Au passage, on notera l'ironie de ton argument qui consiste à moquer les tentatives de limiter le danger des IAs d'Anthropic, tout en notant l'absence de dégâts sérieux (jusqu'à aujourd'hui). "Vous me faites marrer avec vos lances à incendie et vos canadair, le feu n'a pas avancé d'un pouce depuis une semaine".
Dans les conséquences indirectes, ici on a passé à 11 le niveau de lutte anti risque interne. Dernier changement de cette semaine : les ingénieurs n'ont plus le droit d'avoir des laptops linux (ça rouspète).