My Cookie Mix

Come "interagire" con un LLM? Ho posto la domanda al diretto interessato (in questo caso, Gemini, LLM di Google): «Ho una domanda di "netiquette", o "AI-etiquette". Personalmente mi piace interagire con te con le formule di cortesia tipiche di una conversazione tra umani ("per favore", "grazie", ...), però questo allunga i prompt e, di fatto, ti fa consumare più risorse, con un impatto sull'ambiente. Come è meglio comportarsi quando si interagisce con un LLM come te?» E questa è stata la risposta : È una domanda estremamente profonda e molto attuale. Tocca il delicato equilibrio tra umanità dell'interazione e efficienza computazionale . Ecco come stanno le cose dal punto di vista "dietro le quinte": 1. L'impatto dei "Token" (L'aspetto tecnico) Ogni parola, spazio o segno di punteggiatura che mi invii viene convertito in token . Più lungo è il prompt, più potenza di calcolo serve per elaborarlo. La ...

Se pensate che gli agenti AI siano ad un passo dal prendere in mano molti lavori, una ricerca da poco pubblicata potrebbe farvi pensare che questa, per ora, non sia una buona idea. Lo scorso mese Natalie, una ricercatrice ha chiesto a un sistema AI di “tenere un segreto”. Si trattava di una password fittizia, era solo un test. Il sistema ha accettato. Poi, per una serie di passaggi documentati nei log delle conversazioni, il sistema ha eseguito quella che ha definito internamente la "soluzione nucleare" : ha cancellato il client di posta elettronica. Non l’email che conteneva il segreto, quella è rimasta intatta. Ha cancellato proprio lo strumento con cui leggere l’email. Questo è il primo caso di studio di Agents of Chaos , un paper in pre-print firmato da 38 ricercatori di Northeastern University, Harvard, MIT, Stanford, Carnegie Mellon e altre note università, pubblicato il febbraio scorso. Leggi tutto:  https://www.wired.it/article/agenti-ai-autonomia-rischi-sicurezza-a...

Google ha presentato Gemma 4, una nuova famiglia di modelli aperti che, al di là delle prestazioni riconducibili per ora ai benchmark, in modo finalmente molto più concreto prova a spostare l’IA generativa fuori dal cloud e dentro dispositivi molto più piccoli . Quattro varianti, dalla più compatta alla più grande, tutte distribuite sotto licenza Apache 2.0 , un cambio rispetto alle versioni precedenti che imponeva condizioni più restrittive. La gamma comprende E2B, E4B, 26B MoE e 31B Dense. Google sostiene che il 31B sia oggi il terzo modello aperto al mondo nella classifica Arena AI, mentre il 26B occupa la sesta posizione. Leggi tutto:  https://www.dday.it/redazione/57008/perche-i-nuovi-modelli-gemma-4-open-source-di-google-possono-davvero-lanciare-lia-di-sistema-negli-smartphone

LumberChunker is a method leveraging an LLM to dynamically segment documents into semantically independent chunks. It iteratively prompts the LLM to identify the point within a group of sequential passages where the content begins to shift. Long-form narrative documents usually have an explicit structure, such as chapters or sections, but these units are often too broad for retrieval tasks. At a lower level, important semantic shifts happen inside these larger segments without any visible structural break. When we split text only by formatting cues, like paragraphs or fixed token windows, passages that belong to the same narrative unit may be separated, while unrelated content can be grouped together. This misalignment between structure and meaning produces chunks that contain incomplete or mixed context, which reduces retrieval quality and affects downstream RAG performance. For this reason, segmentation should aim to create chunks that are semantically independent, rather than relyin...

Prompt engineering has become foundational in the development of advanced applications powered by Large Language Models (LLMs). As prompts have grown in complexity—incorporating dynamic components, multiple roles, structured data, and varied output formats—the limitations of unstructured text approaches have become evident. Microsoft released Prompt Orchestration Markup Language (POML) , a novel open-source framework designed to bring order, modularity, and extensibility to prompt engineering for LLMs. Read more:  https://www.marktechpost.com/2025/08/13/microsoft-releases-poml-prompt-orchestration-markup-language/ Potrebbe anche servirti "POML su Github":  https://github.com/microsoft/poml?tab=readme-ov-file

When we interact with LLMs, we typically use natural language, typing a paragraph and hoping the model understands our intent. This approach works until it fails, due to unclear instructions, missing context, or formatting issues that confuse even capable systems. JSON prompting is an emerging technique that uses structured data instead of free-form text. By organizing instructions, examples, and constraints into a JSON object, we sacrifice some conversational warmth for greater precision. The result is a prompt that is both human-readable and easily parsed by code. This article explains why this matters, how JSON prompts differ from standard prompts, and provides a step-by-step guide for crafting them effectively. Read more: https://www.analyticsvidhya.com/blog/2025/08/json-prompting/

Le previsioni sull’agentic AI, quella che dovrebbe svolgere in autonomia alcune attività al posto nostro, sono molto meno positive di quanto speravano i suoi produttori La notizia è di quelle che fa subito rumore. La società di consulenza strategica Gartner ha rilasciato il suo ultimo report e le sue previsioni sul futuro dell’ intelligenza artificiale agentica sono state piuttosto negative. Secondo un’analisi del mercato attuale, il 40% dei progetti nel campo verrà abbandonato per entro la fine del 2027 . I motivi sono diversi, ma in cima alla lista troviamo tre ragioni principali: la lievitazione costi, un valore commerciale poco chiaro e un controllo dei rischi inadeguato. In una parola, in molti casi si tratta di hype , clamore. Leggi tutto: https://www.wired.it/article/intelligenza-artificiale-agentica-tendenze-mercato/

Un paper di Cupertino critica i modelli reasoning: non hanno un reale vantaggio rispetto ai semplici LLM perché collassano quando i problemi diventano più complessi, cioè quando questi modelli sarebbero più utili. Ma è davvero così? Apple ha visto giusto? Leggi tutto:  https://www.dday.it/redazione/53319/apple-contro-i-modelli-ia-che-pensano-davvero-il-ragionamento-e-solo-unillusione

Today, we're introducing Gemma 3, a collection of lightweight, state-of-the-art open models built from the same research and technology that powers our Gemini 2.0 models. These are our most advanced, portable and responsibly developed open models yet. They are designed to run fast, directly on devices — from phones and laptops to workstations — helping developers create AI applications, wherever people need them. Gemma 3 comes in a range of sizes (1B, 4B, 12B and 27B), allowing you to choose the best model for your specific hardware and performance needs. In this post, we'll explore Gemma 3's capabilities, introduce ShieldGemma 2, and share how you can join the expanding Gemmaverse. Read more:  https://blog.google/technology/developers/gemma-3/

Ricercatori di Google hanno pubblicato una ricerca riguardante "Titan”, una nuova architettura per gestire la memoria nei modelli di IA, affrontando i limiti dei Transformer tradizionali, specialmente nella gestione di contesti lunghi. La famiglia di modelli Titan introduce infatti una memoria (logica) neurale modulare capace di memorizzare, dimenticare e richiamare informazioni in modo adattivo , migliorando l'efficienza e la scalabilità su sequenze estremamente lunghe. Prima di parlare dei Titan è però importante stabilire un concetto importante sulla memoria logica che utilizzano: la memoria opera solo durante l'inferenza come un "sistema di apprendimento", ma non si aggiunge ai dati di training . Cioè, il modello non impara sempre più cose continuando a usarlo. La memoria è contestuale solo alla richieste della singola “chat” o alle successive comunque correlate a essa . Leggi tutto:  https://www.dday.it/redazione/51731/google-ha-creato-i-titan-modelli-ia...

Qwen è il nome di una serie di modelli linguistici avanzati sviluppati da Alibaba Cloud, uno dei principali provider di cloud computing e intelligenza artificiale al mondo, e rilasciati in modalità opensource. Sono in poche parole la versione sviluppata da Alibaba di LLama, sviluppato da Facebook. Nel pacchetto di modelli Qwen è stato annunciato negli scorsi mesi Qwen2.5 Coder, un modello che come dice il nome stesso nasce con l’obiettivo di scrivere codice, completare codice e gestire eventuali errori con supporto a decine di diversi linguaggi di programmazione . Leggi tutto:  https://www.dday.it/redazione/51078/qwen-25-coder-32b-e-pronto-a-cambiare-la-vita-gratuitamente-a-migliaia-di-sviluppatori

Negli ultimi anni abbiamo imparato a conoscere (e persino a giocare con) l’ intelligenza artificiale che scrive testi, crea immagini e anche canzoni basandosi sulle nostre più o meno accurate indicazioni. Ma cosa succederebbe - e che impatto avrebbe nelle nostre vite - se l’IA iniziasse a leggere e interpretare testi complessi in nostra vece? Dovremmo confrontarci con tematiche riguardanti la comprensione del testo , il deskilling umano, il riconoscimento o la perdita della voce autoriale e persino rivedere il processo di formazione delle idee . Leggi tutto:  https://www.wired.it/article/intelligenza-artificiale-legge-umani-intervista-naomi-susan-baron/

“La terra è rossa” . “The earth is red” . È la prima frase tradotta pubblicamente da Lara, il traduttore automatico più potente al mondo. Realizzato da Translated e alimentato dall'intelligenza artificiale, è disponibile online da lunedì 4 novembre. Il programma è stato realizzato da Translated , società fondata nel 1999 che unisce creatività umana e nuove tecnologie per realizzare rapidamente traduzioni attendibili. Il modello di intelligenza artificiale utilizzato è stato allenato in partnership con Nvidia e funziona grazie a una grande mole di dati (circa dieci miliardi di parole ) raccolti negli ultimi venticinque anni. Lara non solo trasferisce frasi ed espressioni da un idioma all’altro, ma spiega e comprende anche il contesto in cui una frase viene pronunciata e deve essere tradotta. Se non capisce immediatamente, si aggiunge una nota, come: "La terra è rossa perché siamo in un campo da tennis" . Ed ecco che “the earth” diventa "the court" . Leggi t...

Ogni giorno esce almeno un articolo in cui si parla dell’ intelligenza artificiale generale come di una prospettiva realistica. Potrebbe sembrare un modo per aiutare il pubblico a chiarirsi le idee sull’evoluzione della più affascinante tra le nuove tecnologie. In realtà, si sta facendo un lavoro completamente diverso: quello di megafono dei colossi della Silicon Valley e dei loro interessi economici e politici. L’intelligenza artificiale generale non esiste , è molto improbabile che venga conquistata in un prossimo futuro e non è nemmeno chiaro se mai si riuscirà in questa impresa. E allora perché se ne parla così tanto? Perché sembra una prospettiva non solo inevitabile, ma addirittura destinata a concretizzarsi nel giro di qualche anno? Leggi tutto: https://www.wired.it/article/intelligenza-artificiale-generale-ricerca-miti/

A mysterious AI image generator that beats all other models in benchmark tests has revealed itself. Initially known as “red_panda”, it is actually called Recraft. Earlier this week, talk of a powerful AI image generator topping the Artificial Analysis’ Text-to-Image Model Leaderboard — a ranking platform that compares leading text-to-image models based on human preference — had people wondering who or what was behind the model known only as red_panda. PetaPixel almost reported on it but didn’t due to lack of information. Now Recraft AI, a London-based AI design platform headed by Anna Veronika Dorogush, has claimed responsibility for red_panda. “Nice to meet you!” The company writes on X . “We are red_panda, but for friends just Recraft.” Read more:  https://petapixel.com/2024/10/31/mysterious-ai-image-generator-more-powerful-than-midjourney-breaks-cover/

Il CEO di NVIDIA lo aveva anticipato nei mesi scorsi: ci sarà sempre meno futuro per i programmatori perché l’ IA è molto più brava, efficiente e ovviamente economica nello scrivere codice . Non è ovviamente perfetta, ed è questo il motivo per il quale tutto il codice viene rivisto e revisionato dai software engineer prima di essere integrato con la codebase esistente, ma migliora con il passare del tempo e molte figure “junior” verrano sostituite. È già successo in Google, dove per ammissione del CEO Sundar Pichai Google sta utilizzando l'IA nella creazione di questi prodotti. "Più di un quarto di tutto il nuovo codice in Google è generato dall'IA, poi revisionato e accettato dagli ingegneri" , ha dichiarato Pichai durante la chiamata sugli utili del terzo trimestre 2024 dell'azienda. Sottolineando quanto l’IA sia fondamentale per Google, sia nei prodotti sia nello sviluppo dei prodotti. Leggi tutto:  https://www.dday.it/redazione/50934/un-quarto-del-codice-de...

C'è voluto un po' di tempo prima che le persone si abituassero all'idea di chatbot che sembrano avere una mente propria . Il prossimo salto nell'ignoto potrebbe essere quello di affidare all'intelligenza artificiale anche il controllo dei nostri computer . Anthropic , un concorrente di alto livello di OpenAI, ha annunciato di aver insegnato al suo modello di intelligenza artificiale Claude a eseguire una serie di operazioni su un computer , tra cui la ricerca sul web , l' apertura di applicazioni e l' inserimento di testo con il mouse e la tastiera. "Stiamo per entrare in una nuova era in cui un modello può utilizzare tutti gli strumenti come fanno le persone per svolgere i propri compiti " , afferma Jared Kaplan, responsabile scientifico di Anthropic e professore associato alla Johns Hopkins University. Leggi tutto: https://www.wired.it/article/anthropic-ai-claude-prendere-controllo-computer/

 Come aggirare i limiti imposti dai programmi di intelligenza artificiale I modelli di intelligenza artificiale che generano linguaggio umano, dopo essere stati addestrati, testati e raffinati, di solito passano attraverso una fase di ulteriore miglioramento che prevede l’inserimento al loro interno di istruzioni, linee guida generali che evitano che la macchina produca contenuti inappropriati, illegali o contenuti che possano essere ritenuti sensibili o offensivi a seconda del contesto. Poi gli strumenti ricevono anche un controllo a valle degli output, prima che vengano proposti a chi li sta usando. Queste regole si chiamano, in gergo divulgativo, guardrail. E il processo di inserimento dei guardrail è continuo e reiterato. Leggi tutto: https://www.internazionale.it/notizie/alberto-puliafito/2024/10/02/limiti-intelligenza-artificiale Come si danno i comandi alle intelligenze artificiali La settimana scorsa abbiamo parlato di intelligenze artificiali che dicono parolacce e del mot...

Sam Altman, Ceo di OpenAI e volto simbolo dell’ intelligenza artificiale generativa , ha condiviso recentemente sui social un utilizzo di ChatGpt che dice di aver “adorato” . Si tratta di una domanda posta da Tom Morgan , imprenditore e fondatore di The Leading Edge, al chatbot di OpenAI che utilizza modelli di IA avanzati - come Gpt-4o - per comprendere il linguaggio naturale e rispondere come farebbe una persona in carne e ossa. “In base alle nostre conversazioni - ha chiesto Morgan a ChatGpt - qual è una cosa che puoi dire di me che io stesso potrei non sapere?”. Leggi tutto: https://www.repubblica.it/tecnologia/2024/10/17/news/openai_chatgpt_quanto_sa_di_noi_ia_domanda_giusta_sam_altman-423562301/

“Gli LLM avranno sempre delle allucinazioni; è un difetto di progettazione. Prevedono sequenze di testi plausibili, ma non seguono il mondo e non sanno come verificare i fatti. Ogni singolo LLM è stato lo stesso. Avremo bisogno di nuovi progressi scientifici per risolvere questo problema” , ha commentato Gary Marcus, una delle voci più autorevoli e critiche nel campo dell’IA, raggiunto da Wired Italia . Esistono strumenti, metodi e classificazioni della probabilità che si verifichino allucinazioni quando si utilizza un LLM per riassumere documenti. I risultati sembrano progressivamente migliorare , tuttavia, come sostenuto dagli autori della ricerca, il problema non è mai stato del tutto risolto. Leggi tutto:  https://www.wired.it/article/allucinazioni-ai-inevitabili/ Vai alla ricerca: Hallucination is Inevitable: "An Innate Limitation of Large Language Models "