Token
Un token è l'unità minima di testo che un modello AI elabora: può essere una parola, parte di una parola o un segno di punteggiatura. I modelli 'ragionano' e vengono tariffati a token.
Una frase di dieci parole vale in media 15-20 token. Capire i token aiuta a capire i costi (le AI si pagano a token) e i limiti: ogni modello può gestire solo una certa quantità di token per volta, il suo 'contesto'.
In pratica
Sapere che le AI si pagano a token aiuta una PMI a stimare quanto costa far girare un assistente su migliaia di conversazioni.
Termini collegati
La finestra di contesto è la quantità di testo che un'AI può 'tenere a mente' in una singola conversazione: superata quella soglia, dimentica le prime informazioni.
Large Language ModelUn LLM (Large Language Model) è un modello di linguaggio di grandissime dimensioni, addestrato su miliardi di testi, capace di conversare, riassumere, tradurre e scrivere in modo simile a un umano.
PromptUn prompt è l'istruzione o la domanda che si dà a un'AI per ottenere una risposta: più è chiaro e specifico, migliore è il risultato.
Vuoi applicare l'AI alla tua attività?
Fai analizzare il tuo sito da Amy, gratis — o prenota 30 minuti con noi.