Immer, wenn ich mit dem typischen Fanboying:girling über Gen AI (Generativer Künstliche Intelligenz) konfrontiert werde, möchte ich nur seufzen. Dabei ist mir egal, ob jemand über ein Modell in Begeisterung verfällt (Llama), über einen KI-Algorithmus oder eine Funktion innerhalb einer beliebigen Software oder GenAI Softwarelösungen an sich (ChatGPT, Midjourney, etc.). Für mich ist und bleibt Gen AI einfach ein problematisch gehandhabter Auswuchs eines eigentlich sehr coolen Forschungszweigs. Darüber habe ich schon mal länglich hier geschrieben. Vor Allem aber finde ich es verwunderlich wie sehr Gen AI gehyped wird, aber niemand über den enormen Ressourcenbedarf spricht. Dafür wie krass der ist, habe ich mal ein paar Quellen mitgebracht.

„Wir haben mit n Leuten gesprochen und sie gefragt …“

Im Mai diesen Jahres hielt ich einen Vortrag auf einer Konferenz über Vor- und Nachteile von Gen AI und ethischen Umgang damit. Kam ich hinterher mit Leuten ins Gespräch, habe ich das gern genutzt um zwei Fragen zu stellen. Natürlich, ob die Leute Feedback für mich zu meinem Vortrag haben und ob sie etwas an den Inhalten überrascht hat bzw. sie etwas davon noch nicht wussten? Dass die Fachbesucher:innen einer IT-Konferenz die Grundlagen wissen, war schon klar. Tatsächlich war ich super gespannt, ob sie aber auch über den Bias und den Ressourcenbedarf Bescheid wissen. Richtig cool ist, dass einigen der Bias bewusst war und das auch als Schmerzpunkt verstanden wird. Am meisten wurde aber gesagt: „das mit dem Energie- und Ressourcenverbrauch wusste ich nicht“. Super spannend. Hier kommen die Fakten und ihre Quellen, die ich verwendet habe.

1 Modell = 5 Autos

„While many new AI systems are helping solve all sorts of real-world problems, creating and deploying each new system often requires a considerable amount of time and resources. […] If a dataset didn’t exist, you’d have to have people spend hundreds or thousands of hours finding and labelling appropriate images, text, or graphs […]. And training one large natural-language processing model, for example, has roughly the same carbon footprint as running five cars over their lifetime.“

Quelle: „What are foundation models?“, https://research.ibm.com/blog/what-are-foundation-models, zuletzt abgerufen am 10.11.2024

1 GPT = 130 Haushalte

„Training a large language model like GPT-3, for example, is estimated to use just under 1,300 megawatt hours (MWh) of electricity; about as much power as consumed annually by 130 US homes„

Quelle: „How much electricity does AI consume?“, https://www.theverge.com/24066646/ai-electricity-energy-watts-generative-consumption und genauer: https://arxiv.org/pdf/2211.02001, „ESTIMATING THE CARBON FOOTPRINT OF BLOOM, A 176B PARAMETER LANGUAGE MODEL “, Alexandra Sasha Luccioni, Sylvain Viguier, Anne-Laure Ligozat, beides zuletzt abgerufen am 10.11.2024

1% klingt nicht viel, doppelter Energiebedarf in big tech schon

„Between 2017 and 2021, the electricity used by Meta, Amazon, Microsoft, and Google[…], more than doubled [22]. According to the most recent figures available, global data centre electricity consumption has grown by 20-40% annually in recent years, reaching 1-1.3% of global
electricity demand and contributing 1% of energy-related greenhouse gas emissions in 2022 [21]. […]“

Quelle: https://arxiv.org/pdf/2311.16863 „Power Hungry Processing: Watts Driving the Cost of AI Deployment? “, Alexandra Sasha Luccioni, Yacine Jernite, Emma Strubell / Hugging Face, Canada/USA & Carnegie Mellon University, Allen Institute for AI, USA, zuletzt abgerufen am 10.11.2024

Eine 100-Wörter-Mail mit ChatGPT 4 verbraucht 500 ml Wasser

Die nachfolgende Quelle stammt erst aus dem Oktober 2024 und lag mir für meinen Vortrag noch nicht vor. Trotzdem finde ich die Zahl alarmierend. „Wie viel ist es dir wert dir den Text deiner Mail nicht selber überlegen zu müssen?“ … würde ich die Fanboys und Fangirls gern einmal fragen. Bei nächster Gelegenheit tue ich das.

View this post on Instagram

A post shared by The Times and The Sunday Times (@thetimes)

Hype*

*Ja, oben sprach ich von gehyped. Inzwischen hat sich das natürlich einigermaßen abgekühlt im Vergleich zu von vor ein bis zwei Jahren. Damals schossen die Startups aus dem Boden. Davon dürften bereits einige bankrott sein, wurden von Wettbewerben überholt oder eingekauft. In KI wird oder wurde so viel investiert, dass es nur eine Frage der Zeit ist bis diese Blase platzt, weil das Investment nicht zurückkommt. Trotzdem leiden Branchen und damit verbunden viele Menschen darunter. Ich rechne sehr stark damit, dass nicht nur die kreativen Berufe, Übersetzungsarbeit, etc., sondern auch viele an die wir jetzt nicht denken darunter leiden werden. Auch IT-Fachkräfte und Softwareentwickler:innen. Nicht weil (wie es viele zuerst erwartet haben) diese von KI ersetzt werden, sondern weil viele der KI-Startups einbrechen. Aber trotzdem befinden wir uns schon noch in einer Art Hype-Phase, denn es braucht bis Gen AI in der Gesellschaft ankommt. Dass aber dem ganzen die Luft ausgeht, ist auch zu erwarten. Wie seht ihr das? Und war euch das Energieproblem von GenAI klar?

Netzgeflüster ist eine Kategorie meines Blogs in der ich mich immer zwischen dem 10. und 15. eines jedes Monats Themen aus IT, Forschung, Netzwelt und Internet widme genauso wie Spaß rund um die Arbeit mit Bits und Bytes. 🙂