Disclaimer: The article linked is from a single source with a single perspective. Make sure to cross-check information against multiple sources to get a comprehensive view on the situation.
After avoiding AI/LLLMs like the plague, I've been asking Duck.ai some fairly detailed questions, and have been, admittedly, pretty impressed with the results (after checking its references of course). For an oldster like me, it turns the search process on its head: a regular search turns up x hits, and I try to choose what appear to be the most reputable sites among them to find an answer, and then dig through text to find it; now I'm given the answer right away, and then I just have to check and make sure that it's actually correct.
Anyway, Mrs. Erinaceus keeps reminding me that AI sucks up huge amounts of energy (and water, too, apparently), much of it not from renewable sources. So my question is, is there any "acceptable" AI that has a good reputation for not serving slop and is also easy on the environment? Should I even be using AI at all? Mainly concerned about the environment here, I like to think I've been round long enough to have relatively well-developed bullshit detectors. Obviously want to avoid Big Tech LLMs too, unless there's some way of using them without them getting any benefit from it.
If you run it on your own hardware then you know exactly how much energy it's using. Some of the models can even run on the average computer, but the quality is not great.
The problem we have right now is where everyone is trying to use generative AI for everything, all the time, even for basic takes such as googling for a fact, simple math that could be done on a calculator, etc. They're also often using the latest and greatest AI models, which are powerful and spend a lot of processing power each time. In order to run the servers to respond to all that, companies use a large amount of power, and then use water to cool the servers. That's the water usage from what I understand.
So if you use a simpler / more efficient model, and only use it for tasks where it's better than conventional tools, you'll be doing much better power usage wise.
BTW, are the Chinese way ahead of the US in this like they are with renewables and electric cars? They'll probably figure out a way to have AI use significantly less power before "we" can.
The real power consumption cost is from the model training. The marginal cost of running a query is small. Unless you use LLMs heavily, you probably use more power in many other ways, like if you forget to put your computer to sleep.
More training means better models, generally. If you want to minimize that, look for smaller models on HuggingFace that are more tightly focused on whatever task you have at hand.
Or, you could just do most of your queries when your local electricity mix has more renewables.
Unlike other kids in Massachusetts, students living in one Boston suburb won’t be able to go back to school next month unless they’ve had their chickenpox and measles shots, as well as other routine childhood vaccinations.
The Instagram account of a well known anti-Zionist Jewish comedian was deleted after Meta’s Public Policy Director for Israel and the Jewish Diaspora viewed one of his stories. This is just one example of the anti-Palestinian bias across Big Tech.
Former Harvard Law School professor Alan Dershowitz claimed "if you want to kill Hamas," you "have to kill the civilians who are being used as human shields."
L’altro giorno ho pensato, per un singolo micragnoso attimo, quanto strano sarebbe se per tutto il mese di giugno, o comunque giù di lì, il mio gaming commesso ammontasse a zero (0), o comunque giù di lì… ma è impossibile, vero? Ehh, insomma… Da un lato io non riesco a ricordare alcun momento di gaming […]
la mancanza del gaming in quella estate della strambezza
L’altro giorno ho pensato, per un singolo micragnoso attimo, quanto strano sarebbe se per tutto il mese di giugno, o comunque giù di lì, il mio gaming commesso ammontasse a zero (0), o comunque giù di lì… ma è impossibile, vero? Ehh, insomma… Da un lato io non riesco a ricordare alcun momento di gaming da questo mesetto, e ciò francamente mi torna, viste tutte le altre cose in cui mi sono invece cacciata… e, dall’altro lato, ora che sto ripensando a questo fatto mi viene in mente che io non ho (quasi) aperto letteralmente nessun gioco… nemmeno Pikmin Bloom. (Ma nemmeno altri a caso.) 😳
Con Pikmin in particolare la situazione è complicata, da una moltitudine di fattori che tutti insieme fanno salire lo zzz, e quindi passa la voglia di giocare. Innanzitutto, il gioco lo ho sempre solo sul tablet, perché richiede non solo i servizi Goolag ma anche la Slave Integrity… e se i primi posso averli sul telefono con la MIUI cinese usando quelle varie VM, la seconda no. Avendolo solo sul tablet, visto che il gioco è improntato sulla geolocalizzazione, a casa c’è poco da giocare, e fuori difficilmente ho il tablet… a maggior ragione ora che non ho lezioni all’università, e quindi che in quel campus infernale ci vado solo quando qualcuno piega il mio libretto cartaceo (…che non ho, nessuno lo ha ormai, ma dettagli) a forma di coltello e me lo punta alla gola, ricordandomi che “è troppo vuoto“… mentre in posti a caso, il tablet ovviamente non lo porto. Comunque sia, poi, ci mette sempre il suo mezzo minuto buono a partire e collegarsi al server, per poi girare assolutamente di culo; sospetto sia uno dei giochi Unity peggio ottimizzati degli ultimi anni… E infine, avendo raggiunto il limite delle piantine, perché non riesco a smaltirle in tempo (servono tanti passi, ma ops, tablet), a inizio mese ho preso l’abitudine di mandare i Pikmin a fare le missioni senza poi cliccare per ritirare gli oggetti, e in giusto un paio di giorni sono finita per avere letteralmente tutti di loro in stallo, senza poterli quindi mandare in altre missioni, se prima non ritiro la roba… ma non posso ritirare solo la frutta (perché la UX di questo gioco è terribile), quando vorrei tenere solo le piantine in bilico… È un così fottuto troiaio che non voglio nemmeno elaborare oltre! 😤 Quelle che riguardano gli schiavetti dei fiori, però, sono più in generale rogne riguardo il gaming moderno, che è sempre più sconveniente, con queste connessioni ai server, le prestazioni scarse, i limiti artificiali messi per indurre a spendere di più (e scemi loro se credono di riuscirci con me, che sono ipertirchia… no, semplicemente finisco involontariamente per non usare più il gioco, lol)… Ma, per l’appunto, questo mese è comunque crollato tutto il gaming. A parte aprire Pikmin per poi ricordare che è tutto in questo stato penoso e quindi subito richiuderlo (potrei buttare le piantine, ma non voglio), credo che avrò aperto al massimo una o due volte il Picross o il Sudoku sul telefono, e poi letteralmente basta. In altre parole, l’unico gaming che ho fatto non lo è in senso stretto, è roba tranquillamente da enigmistica cartacea… come sono caduta in alto! L’unica cosa tosta che avrei un minimo voglia di giocare è Animal Crossing (…molto tosto), ma non ho mai davvero voglia di metterci il tempo che puntualmente potrei meglio spendere a pianificare e narrare il mio marcimento, o a leggere degli altrui marcimenti da libri e tomi, come sempre più si addice a questa estate 2025… e allora ciccia. 🏜️
Quindi, che dire… il rotting di giugno e le sue distrazioni imposte mi hanno accidentalmente disintossicato dalla malattia del gaming??? Ho per caso già così facilmente perso il vergognoso titolo ignobiliare di “gamer”, perché queste altre cose hanno preso il sopravvento già più del tanto che già mi è solito? …Purtroppo, per quanto mi piacerebbe, credo proprio che no, e che, una volta che si è ormai caduti nella trappola del gioco, lo stigma lo si avrà per sempre, nonostante gli “incidenti felici” che capitano per la via della vita e portano a distaccarsi dal vizio del demonio… pazienza. Proverò a nascondere il mio passato e, se qualcuno lo scoprirà, dunque interrogandomi su questo mio attributo di “gamer”, gli dirò che è soltanto perché leggo visual novel… che tecnicamente è vero (anche se nel mese passato non me n’è capitata nessuna). “Giuro, signor giudice, non sono più una giocatrice!!!” 🤯
I do it a lot with my comments because I'm older and my grammar is terrible but I feel like I have ideas I would like to share but struggle to make them sound clear or even concise.
My longer ranty grammatically poor comments are me. My clearer comments that get better engagement from people and understanding are my comments that I asked chatgpt to improve.
I don't see why this is a bad thing. It is a chat tool. I like tech. I'm all for anyone using a language tool to produce language based products. As long as it isn't doing the work and is being reviewed then I would question anyone who isn't using it.
Here I'll run this comment through AI again to show the improvement:
I'd never let AI "write" a paper of mines. As a non-native speaker, the farther I went is to ask chatgpt or the likes to rephrase something for conciseness or clarity.
And 99.135% of scientific papers were checked by a spell checker. This is such a non-issue. Overleaf has AI built in to help with wording; a reviewer recommended I run my paper through AI to improve it. AI is tool like any other and there’s nothing wrong with using it.
If it can help you to express better what you need to portray, then its the right tool for the job.
I would then use my own tool to remove the fluff and filler. I just hope that would come off by default. I don't need 3 paragraphs answers for numers, graphs, yes or no questions.
Following the news that 9,000 people are being laid off at the company, one Xbox executive offered some questionable words of advice for people on their way ...
Following the news that 9,000 people are being laid off at the company, one Xbox executive offered some questionable words of advice for people on their way ...
Following the news that 9,000 people are being laid off at the company, one Xbox executive offered some questionable words of advice for people on their way ...
Proton.me: "We will be adding Monero as a payment option for our VPN plans by the end of Summer 2025. Source: https://x.com/davidgpeterson/status/1941500514803548636" protonmail.uservoice.com/forum…
Otter
in reply to Alas Poor Erinaceus • • •If you run it on your own hardware then you know exactly how much energy it's using. Some of the models can even run on the average computer, but the quality is not great.
The problem we have right now is where everyone is trying to use generative AI for everything, all the time, even for basic takes such as googling for a fact, simple math that could be done on a calculator, etc. They're also often using the latest and greatest AI models, which are powerful and spend a lot of processing power each time. In order to run the servers to respond to all that, companies use a large amount of power, and then use water to cool the servers. That's the water usage from what I understand.
So if you use a simpler / more efficient model, and only use it for tasks where it's better than conventional tools, you'll be doing much better power usage wise.
Alas Poor Erinaceus
in reply to Otter • • •Thanks! 👍
BTW, are the Chinese way ahead of the US in this like they are with renewables and electric cars? They'll probably figure out a way to have AI use significantly less power before "we" can.
UberKitten
in reply to Alas Poor Erinaceus • • •The real power consumption cost is from the model training. The marginal cost of running a query is small. Unless you use LLMs heavily, you probably use more power in many other ways, like if you forget to put your computer to sleep.
More training means better models, generally. If you want to minimize that, look for smaller models on HuggingFace that are more tightly focused on whatever task you have at hand.
Or, you could just do most of your queries when your local electricity mix has more renewables.