Snížení energetické náročnosti AI

Martin Abel

Z ekologického hlediska by to prima facie mohl být důvod k oslavě. Nižší výpočetní náročnost znamená nižší spotřebu elektřiny, a tedy i méně emisí skleníkových plynů. To rozhodně potřebujeme. Mezinárodní energetická agentura odhaduje, že roční spotřeba elektřiny na provoz AI dosáhla v roce 2023 460 TWh – to je osmkrát více, než spotřebuje celá Česká republika. Dejte si chvilku, ať tu informaci vstřebáte. Navíc má DeepSeek v Číně potenciálně lepší přístup k bezemisní elektřině než OpenAI v USA pod případným vedením Donalda Trumpa.2

Přesto bych s otvíráním šampaňského ještě posečkal. DeepSeek ušetřil energii a peníze při vývoji modelu, což znamená, že mu zbydou zdroje na trénování dalších. Zvýšená efektivita paradoxně často vede k větší spotřebě – tzv. efekt zpětného rázu (rebound effect). Uživatelé budou moci díky levnějšímu provozu zadávat více příkazů při stejné uhlíkové stopě, což většina z nich ráda využije.3 Kromě toho nízká cena DeepSeek-R1 (tarify začínají na $0,50/měsíc oproti $20/měsíc u ChatGPT) zpřístupní AI širšímu publiku, což ještě více zvýší její používání. AI tak bude prosakovat do našich digitálních životů rychleji, než jsme mnozí čekali. 

https://www.ll.mit.edu/news/qa-vijay-gadepally-climate-impact-generative-ai

rozhovor s výzkumníkem

What do you see for the future?

Mitigating the climate impact of generative AI is one of those problems that people all over the world are working on, and with a similar goal. We’re doing a lot of work here at Lincoln Laboratory, but its only scratching at the surface. In the long term, data centers, AI developers, and energy grids will need to work together to provide „energy audits“ to uncover other unique ways that we can improve computing efficiencies. We need more partnerships and more collaboration in order to forge ahead.

z čehož vyplývá nutnost distribuované energie a provozu AI

Jak šetřit energii při provozu AI

https://www.eidosmedia.com/updater/technology/the-energy-demand-of-gen-ai-models-a-growing-concern

Harvard Magazine představuje jiný přístup. Sara Hookerová, vedoucí neziskové výzkumné skupiny Cohere For AI, navrhuje, že řešením mohou být menší a chytřejší modely. „Podle výzkumníků lze některých výhod velikosti dosáhnout i jinými technikami, jako je efektivní parametrizace (aktivace pouze relevantních parametrů pro daný vstup) a meta-learning (učení modelů samostatnému učení),“ uvádí Harvard Magazine. „Namísto vynakládání obrovských prostředků na honbu za stále většími modely by společnosti zabývající se umělou inteligencí mohly přispívat na výzkum vyvíjející tyto metody zvyšující efektivitu.“

Kromě výše uvedených návrhů Harvard Business Review navrhuje praktické způsoby, jak snížit rostoucí energetické nároky umělé inteligence jak pro její tvůrce, tak pro uživatele:

Využívat stávající velké generativní modely namísto vytváření nových a vyladit stávající modely.

Používejte výpočetní metody, které jsou energeticky úspornější.

Používejte velký model pouze tehdy, když nabízí zřetelnou hodnotu.

Zvažte, kdy generativní umělou inteligenci použijete.

Prozkoumejte zdroje energie používané poskytovateli cloudových služeb a datovými centry.

Nástroje pro snížení energetické stopy modelů generativní AI již existují. Nasazení těchto nástrojů je zásadní pro udržitelný

A ve Francii mají AI, co řeší setkávání solárních panelů a větru, což je využití AI, které dává smysl.

https://www.obnovitelne.cz/clanek/3617/francouzi-spojili-fotovoltaiku-s-ai-a-naucili-solarni-panely-tancit

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *