Week 20.2023: Gli Androidi di Musk, avanzamenti negli LLM, il Chip di Meta.
Ogni settimana, leggo decine di pagine di contenuti su Digital Transformation, Digital Marketing AI & dintorni e ve li ripropongo in questa newsletter.
Parliamo di: I Robot di Elon Musk, miglioramenti lato LLM, tecnologia dei microchip e la generazione perduta e un interessante prompt per avere i risultati in italiano.
Elon Musk: "L'AI è pericolosa per il mondo", sempre Musk: eccovi quindi i miei Terminator
La Tesla potrebbe essere la compagnia automotive più sopravvalutata del mondo, oppure la prima compagnia di Robot & Androidi al mondo.
Musk ha sempre definito Tesla una compagnia di Robot: le auto infatti sono solo il primo passo verso il Full Self-Driving (FSD), a quel punto si potrà produrre una flotta di robotaxi.
Non si è però fermata a dei robot a forma di scatola di sardine un annetto fa aveva promesso degli robot a forma umanoide (fammeli chiamare androidi).
Ed ecco che questa settimana il canale di Youtube di Tesla ha pubblicato questo video:
My two cents
La Boston Dynamic è molto più avanti rispetto a Tesla, dato che i loro robot corrono, saltano e generalmente hanno performance paurose.
Leggo da persone più esperte che la tecnologia su cui poggia la BD è però di una o due generazione più vecchia rispetto a quella di Tesla (o di Google che sta sviluppando qualcosa di simile).
Nel video si vede anche la tecnologia di riconoscimento visivo che usano gli Androidi (la stessa montata sulle auto), l'apprendimento rinforzato con gli esseri umani e la perizia nel manipolare oggetti minuscoli.
Anche la velocità con cui Tesla è riuscita a sviluppare un robot che cammina come un essere umano dopo il leg day è impressionante.
Adesso che la tempesta Twitter si sta placendo e Musk ha più tempo per tornare su Tesla e Space X mi aspetto grossi passi avanti.
Anthropic ha adesso una finestra contestuale di 100K tokens.
Ve la spiego pane e salame: la finestra contestuale è la memoria storica che un LLM ha una chat, mentre un token è il modo in cui le parole vengono "tradotte" in numeri e quindi interpretate dalla AI.
Servono circa 600 token per una pagina di un libro... probabilmente hai capito dove voglio andare a parare: avere una finestra contestuale di 100K Token vuol dire che posso dargli in pasto un libro da 160 pagine e essere sicuro che mi risponda ricordandosi tutto.
Bene; Claude, l'AI di Anthropic, ha annunciato la possibilità di utilizzare fino a 100K tokens
Questo ci permette quindi di essere davvero in grado di utilizzare libri e testi più complessi con una chat.
My two cents
Una persona in media ci mette un 5 ore a leggere 150 pagine. Con Claude ci si mette circa 20 secondi ad avere un riassunto.
Come avrai già visto nel mio video "Come far leggere i propri appunti (e libri) a ChatGPT" esistono già dei modi per farlo, ma avere la capacità di dare contenuti così lunghi cambia il modo di approcciarsi alla cosa.
Cosa si può fare con così tanti tokens?
- Interrogazione di libri: I servizi di riassunto di libri che tanto stanno andando perderanno moltissimo appeal.
- Dargli in pasto contenuti vari e tirarci fuori qualcosa di sensato in pochi istanti (dalla documentazione legale, a quella informatica)
- Paper scientifici: potendone leggere più di uno e ricordandoseli la qualità dell'interrogazione diventa di sicuro più affidabile.
- Programmare. ChatGPT-4 è già eccezionale da questo punto di vista, ma avere una capacità così grande permette di sviluppare APP molto più complesse.
A voler andare un livello di complessità superiore e pensare alla Curation dei contenuti le cose si possono davvero fare interessanti.
- Esempio uno: Scopri un autore che ti piace? puoi pattugliare Youtube, trovare dei podcast e chiedere a Claude di riassumerli tutti.
- Esempio due: con un PKM si potrebbero prendere 10 libri dello stesso argomento, toglierlo lo storytelling, estrarre i punti chiave in 10 note diverse, e sucessivamente chiedere dove questi libri concordano e dove no.
Credo che sia il momento di provarlo questo Claude di Anthropic: https://www.anthropic.com/product
Link
Ti lascio due link: uno che parla dei token (e della loro lunghezza) e uno che parla di parole in un testo, tanto per capire che i numeri precisi sono sempre un'approsimazione :-P
- https://blog.quickchat.ai/post/tokens-entropy-question/
- https://mczellbookwriting.com/blog/book-word-count/
- https://www.anthropic.com/product
Meta entra nella guerra dei Chip
Meta ha presentato i suoi chip AI personalizzati, tra cui il Meta Scalable Video Processor (MSVP) e il Meta Training and Inference Accelerator (MTIA).
Questi chip sono due pezzi importanti per l'elaborazione video e le attività di AI e dovrebbero al contempo soddisfare requisiti energetici più stretti.
L'elaborazione dei video per il video on demand (VOD) e lo streaming dal vivo è già un'attività ad alta intensità di calcolo, se a questo ci aggiungiamo il fatto che dopodomani ci saranno AI generative Video, capiamo come la mossa di Meta sia esattamente quello che serviva.
Se è vero che anche le CPU generiche sono in grado di gestire l'elaborazione video, è facile rendersi conto che alla scala in cui opera Meta non è concepibile farlo con strumenti non specializzati.
My two cents
Ne avevo già parlato in occasione del recente rilascio di un processore in open Source. Credo che la strada della costruzione dei Chip specializzata sia appena iniziata.
I Microprocessori sono molto importanti. Il paragone con il motore a vapore non sembra nemmeno azzardato. Lo sa la Cina, lo sanno gli Stati Uniti e lo sa anche l'Europa.
Le variabili in campo sono molte e tutte puntano al portarsi in casa la tecnologia produttiva di chip specializzati:
Come ha dimostrato Tesla: non solo è possibile ma consigliabile avere microprocessori ottimizzati per i propri sistemi.
Da un punto di vista geopolitico le aziende si sono rese conto di dipendere totalmente da Taiwan (al momento il più grande produttore di chip al mondo) e che con le brame espansionistiche della Cina la cosa è molto rischiosa. Un blocco di produzione di Taiwan metterebbe in ginocchio l'intero comparto Tech mondiale.
Se la guardiamo dal mero lato finanziario, NVIDIA sta facendo numeri mostruosi: prima essendo abilitatore dei chip per il mining delle cryptovalute, adesso per le AI generative.
Avere una fetta della torta in perenne espansione fa di sicuro gola a tutti.
Stavo ascoltando un podcast questa settimana: gli Stati Uniti si sono accorti di aver perso una generazione di tecnici a causa della de-localizzazione degli impianti di produzione e stanno lavorando per non perderne un'altra, vedi l'articolo del NYTimes a riguardo
Non sottovalutiamo anche il consumo energetico, che al momento è l'elefante nella stanza che nessuno vuol vedere.
Prompt della settimana: Traduci, adatta e spiegami cosa hai fatto.
Anche se i prompt in italiano sembrano funzionare bene io continuo a usarli nella lingua di albione. Un po' perchè è la lingua in cui li sto studiando e mi risulta più semplice farlo, un po' perché mi piace il minimalismo dell'inglese.
Per tradurre quindi di solito scrivo un semplice "output in Italian"
Ho deciso però di migliorare il mio prompt...
questa che vi propongo è la versione base, a cui potete anche chiedere traduci come se parlassi a professori universitari / studenti / bambini di 10 anni.
Ecco il prompt
Translate [ad copy] into [language]. Understand the meaning of [ad copy] and find relevant words and native phrases in [language] that are best suited for [Target]
Show what you've changed/added in English.
Ad copy = [Insert Here]
Language = [Insert Here]
Target = [Insert Here]
Anche questa settimana è tutto per i Mak's File
un Abrazo,
Manolo
Member discussion