<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom">
	<channel>
		<title>hardware on fischerlaender.de</title>
		<link>https://www.fischerlaender.de/lab/themen/hardware/</link>
		<description>Recent content in hardware on fischerlaender.de</description>
		<generator>Hugo</generator>
		<language>de-DE</language>
		
		
		
		
			<lastBuildDate>Sun, 13 Sep 2026 00:00:00 +0000</lastBuildDate>
		
			<atom:link href="https://www.fischerlaender.de/lab/themen/hardware/index.xml" rel="self" type="application/rss+xml" />
			<item>
				<title>Hardware für lokale KI: VRAM und Geschwindigkeit</title>
				<link>https://www.fischerlaender.de/lab/grundlagen/hardware-fuer-lokale-ki/</link>
				<pubDate>Sun, 13 Sep 2026 00:00:00 +0000</pubDate>
				<guid>https://www.fischerlaender.de/lab/grundlagen/hardware-fuer-lokale-ki/</guid>
				<description>&lt;p&gt;Lokale KI läuft auf unserer Hardware, die meist deutlich weniger leistungsfähig ist als das, was in den Rechenzentren der großen Anbieter verfügbar ist. Damit stellt sich die Frage, welche Hardwareanforderungen für welche Sprachmodelle nötig sind.&lt;/p&gt;&#xA;&lt;h2 id=&#34;prompt-processing-und-tokengenerierung&#34;&gt;Prompt Processing und Tokengenerierung&lt;/h2&gt;&#xA;&lt;p&gt;Jede LLM-Nutzung besteht aus den beiden Phasen &lt;em&gt;Prefill&lt;/em&gt; (&lt;em&gt;Prompt Processing&lt;/em&gt;) und &lt;em&gt;Decode&lt;/em&gt; (&lt;em&gt;Generierung&lt;/em&gt;), die unterschiedliche Anforderungen an die Hardware stellen. Wer verstehen möchte, welche Hardware für welche Use Cases geeignet ist, sollte sich mit diesen Details zumindest grob befassen.&lt;/p&gt;</description>
			</item>
	</channel>
</rss>
