Mon ikke det bare er den udspekulerede Dario, der strategisk udnytter hype og frygt til at markedsføre sit firma? KI er pisse farligt på alle mulige måder, både sci-fi-agtige dommedagsscenarier på den længere bane og massere af jordnære risici på den korte. Men der er andre, der har været skeptiske omkring det her, og en god tommelfingerregel er ikke at stole på Samuel Altman og Dario Amodei.
Som jeg så en anden skrive: min fidget spinner kører så hurtigt at den kan lave et sort hul. Nej, du må ikke se den, men jeg har en aftale med Hasbro og Lego om at det kun er os der må bruge den. Trust me bro.
Den er jeg klar til at købe!
Sjovt skrevet! Det minder mig også lidt om finske Donut Labs påstande om at have skabt et masseproducerbart 'solid state'-batteri...
Arbejder på Datalogisk institut på AAU. Har snakket med en kollega der arbejder med IT-sikkerhed om det og har hørt dette podcast afsnit fra en amerikansk forsker om det: https://www.thedeeplife.com/podcasts/episodes/is-claude-mythos-terrifying-ai-reality-check/
Begge disse ting får mig til at tage det mere roligt end hvad hypen forsøger at piske stemningen op til. Konklusion: Mythos kan ikke særligt meget mere en tidligere modeller. Den gør det lettere for ikke eksperter at opdage sikkerhedshuller.
Forestiller mig også at det er fra kvantecomputere der bryder kryptering at vi kommer til at se de største problemer.
Men det har vi jo også allerede et svar, på. https://en.wikipedia.org/wiki/Post-quantum_cryptography
Går nok alligevel et stykke tid inden det slår igennem i alle legacysystemer.
Det er sandt i alle tilfælde hvor legacy-systemer er involveret. Vi lærte hvor udbredt Windows XP var i hospitaler verden rundt da Wannacry ramte.
De sagde det samme om GPT-2...
Mozilla havde en artikel om det. Deres take-away var at, jo den er dygtig og hurtig, men de fejl den fandt, kunne også godt have været fundet af en person, hvis der ellers var nogen der kiggede.
Det Mythos kan er bare, at den er hurtig til det. Den er ikke bedre en mennesker.
https://blog.mozilla.org/en/privacy-security/ai-security-zero-day-vulnerabilities/
Det er stadig en ret markant ændring for både attackers og defenders. De råber vel bare vagt i gevær, da softwareudviklere skal til at ændre hvordan de tester deres software.
Som altid med det der ai, this is the worst it will ever be.
Ville skrive noget om hvordan de her AI firmaer nærmest nyder at true almindelige menneskers eksistensgrundlag, men ED Zitron siger det meget bedre end mig i denne YT-video
Prompt podcast om Mythos: https://www.dr.dk/lyd/special-radio/prompt/prompt-2026/indiens-id-revolution-mythos-bryder-ind-og-altman-afsloeret-11802621015
Fra ~4 minutter inde.
Nyheder
For alle nyheder, hvad end de måtte omhandle.
Regler
1. Brug artiklens titel
Titlen på indlæg skal være titlen på nyhedsartiklen der linkes til. Du må dog gerne oversætte titlen hvis den ikke er på dansk, så længe oversættelsen er retvisende. En alternativ titel (fx i tilfælde af clickbait) eller vigtig supplerende information kan angives i kantede parenteser. Fx: "Clickbait titel [Beskrivende titel]". Dette sikrer at titlen på artiklen ikke er misvisende.
2. Brug ikke tekstfeltet ("body")
Link udelukkende til artiklen. Tekstfeltet (“body” på engelsk) må kun bruges til at skrive et kort neutralt uddrag af artiklen eller et neutralt referat hvis artiklen er bag en betalingsmur. Hvis du vil tilføje spørgsmål, kommentarer eller udtrykke holdninger, så skriv en kommentar i stedet. Dette sikrer at debatten foregår fra et neutralt synspunkt der tager udgangspunkt i artiklen, og ikke en bestemt vinkling skrevet i tekstfeltet.
3. Kun nye artikler
Artikler må højst være en uge gamle. Dette sikrer at artikler faktisk er nyheder.
4. Debat-indlæg og andet skal markeres
Det er tilladt i et begrænset omfang at indlægge artikler der ikke som sådan er nyhedsartikler og ikke er skrevet af avisens ansatte (fx debat-indlæg eller læserbreve), men sådanne artikler skal markeres med [Debat] el. lign. mærkat i titlen af indlægget inden titlen på artiklen. Dette sikrer at brugere er klar over den potentielle højere bias der kommer fra debat-indlæg og sikrer at debat-indlæg ikke bruges til at skubbe en agenda.
Husk også at følge Feddit.dks generelle regler.