Plzeňské Pyvo #47 Lokální jazykové modely
Vážení přátelé a příznivci našich setkání!
V listopadu se vrátíme k tématu jazykových modelů. David Beneš nám ukáže, jak některé velké modely spustit lokálně i v případě, že máte omezené prostředky.
Tomáš Smolík nás pak zavede do světa PEP (Python Enhancement Proposals) a zavede nás tak do historie našeho oblíbeného jazyka.
Čeká nás také krátké představení novinek z poslední verze Pythonu.
Přednášky začínají přibližně v 18:30, po přednáškách bude následovat jistě bohatá diskuze. Na viděnou!
Talks
Když máš jen 4 GB VRAM: kvantizace jako cheat code pro LLM
- David Beneš - Siemens Advanta
Stále častěji se nasazují LLM modely – od shrnutí dokumentů, přes opravy textu až po nové hry, kde NPC s pokročilou inteligencí s vámi smlouvá o ceně lektvaru. Pro produkční systémy je ideální server, ale co když jde jen o MVP nebo proof of concept? Lokální model je skvělá cesta. Jenže co dělat, když máte k dispozici jen 4 GB GPU RAM? Řešením jsou kvantizované modely, které snadno rozběhnete pomocí Ollama serveru.
Python Fiction: Historky z PEPsvětí
- Tomáš Smolík - ZF Engineering Plzeň
Podíváme na některé legendární PEPy, které změnily svět Pythonu – nebo se o to aspoň pokusily. Jako proč trvalo 21 let, než jsme dostali match-case? Jaký PEP způsobil rezignaci samotného Guida? Které návrhy byly jen (dobře maskovaný) apríl?
Určeno pro všechny co chtějí se trochu pobavit historií jazyka, který denně používáme.
Python π
- Jan Smitka
V říjnu vyšla další "velká" verze Pythonu, tak je ideální čas si představit některé novinky.
Lightning talks
Pokud máte zkušenost se zajímavou technologii, projektem, nebo chcete prezentovat sebe, či svou firmu a její aktivity, nebojte se přihlásit o slovo. K dispozici můžete mít plných 5 minut pro své téma. Témata možno domluvit mailem na tozitka@gmail.com případně u libovolného z organizátorů ve vhodnou chvíli při akci. Také sbíráme náměty na přednášky pro další Pyva, více informací na pyvo.cz#info-for-speakers.
Venue
Raven Pub, Mozartova 1, Plzeň
Pivovarská hospůdka se salónkem, přímo v budově pivovaru na adrese Mozartova 1 v Plzni Bolevci. Až 6 druhů piv raven, studená i teplá kuchyně - v létě gril na zahrádce.
