Salta al contenuto principale


🔖 Come usare un chatbot open source (ad esempio Phi-3 Mini) in locale e gratuitamente

Uno strumento completamente gratuito e open source per poter creare facilmente un chatbot da poter utilizzare in locale.

🔗 https://www.lealternative.net/2024/05/02/come-usare-un-chatbot-phi-3-mini-in-locale-e-gratuitamente/

Questa voce è stata modificata (2 settimane fa)
in reply to Le Alternative

Figo ma perché? Perché dovrei perdere tempo a dialogare con un pappagallo stocastico? Qualcuno ha voglia di rispondermi con dei casi d'uso reali?
in reply to Giggirriva :SARD:

@sardumaccu a me ha aiutato diverse volte in occasione di controllare e/o suggerire del codice di programmazione. Diciamo che è generalmente più simpatico e disponibile dell'utente medio su Stack Overflow 😀 per altri casi non l'ho mai provato invece.
in reply to Le Alternative

non ho provato quei modelli specifici ma altri; a volte sono utili anche per consultare documenti.
Gli dai in pasto un paio di pdf belli cicciuti e poi gli fai domande sul contenuto... Utile per consultazione (anche se le sviste sono all'ordine del giorno)

Feci una prova dandogli un paio di manuali di d&d

Questa voce è stata modificata (2 settimane fa)
in reply to QuasiMagia 🌀 マルコ

@QuasiMagia Ho fatto qualche tentativo con la generazione di codice ma si perde più tempo a ricontrollare, correggere il codoce o modificare il prompt che altro. Anche sui manuali di d&d mi sembra di capire che può sparare cavolate. Rimango dell'opinione che se non mi posso fidare del risultato perché può avere "allucinazioni" (che termine paraculo), i chatbot dell'IA generica siano inutili.
in reply to Giggirriva :SARD:

@sardumaccu @QuasiMagia per farti un esempio ancora più pratico: io non sono un programmatore ma so fare qualcosina. In meno di dieci minuti ho fatto (fare) uno script che legge un RSS, pubblica su un forum i nuovi articoli e si segna gli articoli già pubblicati per non ripeterli. 2 minuti di DuckDuckGo AI e 5 minuti miei per sistemare un paio di piccole inesattezze.

Senza ci avrei messo probabilmente diverse ore non avendo mai avuto a che fare con un feed RSS.

in reply to Le Alternative

@sardumaccu ma pure per me che SONO un programmatore a volte è utile, e molto più gentile della gente su reddit o stackoverflow
in reply to Le Alternative

@QuasiMagia I miei esperimenti per fargli generate anche solo la struttura base di un modulo Drupal sono stati frustranti. Tanti errori anche sulla sintassi di cose documentatissime 🤨
in reply to Giggirriva :SARD:

@Giggirriva :SARD: Sigh. Io non ho mai provato col codice. Non ho tempo e voglia di verificare tutto. Già una volta mi sono scordato di chiudere una parentesi in un CSS e ho smontato metà degli stili del sito (ovviamente me ne sono accorto ancora in sviluppo prima di sincronizzarlo con quello in produzione 🤣)

@QuasiMagia 🌀 マルコ @Le Alternative

in reply to Maurizio Carnago

@blu @QuasiMagia La cosa piú irritante sono le scuse con errore ricorsivo: gli dici che ha sbagliato, suggerisci la soluzione, si scusa e ti da la risposta sbagliata B. Gli fai notare che ha nuovamente sbagliato, si scusa e torna alla risposta sbagliata A. Sigh!
in reply to Giggirriva :SARD:

@Giggirriva :SARD:
Non ho mai provato questo nello specifico, ma spesso abuso di ChatGPT quando i clienti mi mandano lunghi testi tutti in maiuscolo o PDF da cui devo copiare il testo.

Chiedendo semplicemente di riscriverlo con le maiuscole al posto giusto senza cambiare le frasi capisce anche quando ci sono nomi propri, di marche o di città. Chiaramente poi rileggo tutto, ma mi risparmia tre quarti del lavoro.

Con i PDF invece il problema è che spesso ci sono delle righe troncate ma io devo impaginare quel testo diversamente. Basta dirgli: "metti a posto gli a capo senza cambiare le frasi" e lui lo fa.

Rimarco sempre "senza cambiare le frasi" perché ogni tanto si fa prendere dalla creatività 🤣

@Le Alternative

in reply to Maurizio Carnago

@blu Quindi praticamente il vantaggio sta nell'utilizzo di linguaggio naturale per "programmare", invece di implementare algoritmi di sorting o usare espressioni regolari. Questo potrebbe essere un punto a favore, sempre che non ci voglia troppo tempo dopo per controllare il risultato.
in reply to Giggirriva :SARD:

@Giggirriva :SARD:
Esatto. È un po' alla Star Trek, quando chiedi ad alta voce al computer di fare qualche operazione. Ovviamente non gli chiedo MAI di fare una ricerca, perché lo forzo di verificare sarebbe maggiore che fare una ricerca io stesso.

Però quando gli fornisco io tutto il materiale e chiedo di rifinire qua e là non è affatto male. Anche un "riformula questa frase" mi ha sempre soddisfatto, perché magari quando scrivo qualcosa sento che c'è un dettaglio che non mi quadra e mi aiuta a trovare un'altra prospettiva. Poi non uso mai interamente le sue frasi ma qualche pezzetto magari mi piace di più.

@Le Alternative