Kohtlen open source AI-mudeleid nagu tundmatuid USB-pulki

Kohtlen open source AI-mudeleid nagu tundmatuid USB-pulki.Kõigepealt skannin, siis laadin.

Paar päeva tagasi lugesin Redditist väikest eksperimenti, mis näitab numbritega, miks see nii oluline on.

Üks Redditi kasutaja (arsbrazh12) kirjutas Hugging Face'i mudelite jaoks skanneri.Ja lasi selle peale 2500 mudelile.

86 mudelit ei läinud läbi.

Selline pilt avanes „avatud“ pinna all:

• Failid, milles olid ainult Git LFS-viidad
• Litsentsid, mis olid peidetud .safetensors päistesse
• Mudelid, mis püüdsid laadimisel lisateeke sisse tõmmata
• Kood mustritega, mida leidub ka pahavaras
• Skannimised, mis ebaõnnestusid, sest kohalikud tööriistad puudusid

Kõik tavalise välimusega repodest.Kohtadest, mida paljud tiimid peavad „vaikimisi turvaliseks“.

Open source jutustab ilusat lugu.Läbipaistev. Jagatud. Kogukonna vedatud.

Tõde on nüansirikkam.

Kui näen, kuidas tiimid tõmbavad mudeli hubist, ühendavad selle pipeline'iga ja lasevad sellele juba esimesel päeval päris andmed peale, ei mõtle ma „liigume kiiresti“.

Ma mõtlen: „sa just pistsid tundmatu USB-pulga põhivõrku“.

Keri paar kuud edasi.

Nüüd haldad „suveräänse AI“ platvormi.Räägid kontrollist, autonoomiast, sõltumatusest.

Aga stacki sees on:

• Mudelid, mida keegi ei skanninud
• Litsentsid, mida keegi ei lugenud
• Sõltuvused, mida keegi ei kinnitanud

Paberil kuulub süsteem sulle.Tegelikult sõltud sellest, mis selle mudelifaili sees on.

Meie lähenemine Omniance'is tundub igav, aga hoiab une rahuliku:

• Iga väline mudel läbib skanneri
• Iga lisateek läheb lubatute nimekirja, mitte soovinimekirja
• Iga litsents kontrollitakse enne esimest laadimist, mitte pärast esimest probleemi

Minu jaoks algab AI-suveräänsuse oluline osa küsimusest:„Kas me teame, mida me just mällu laadisime?“

Kas oled näinud sarnaseid probleeme? Kuidas sa oma töövoos mudeleid kontrollid?