Pražské Pyvo #143 From Small PyTorch Models to GPT-like Transformers: A Beginner's Guide to Understanding Large Language Models
Co tě čeká
V dubnu se můžeš těšit na jednu přednášku, lightning talky a volnou zábavu.
Dveře se otvírají v 19 hodin. První přednáška začíná v 19.30.
Lightning talk můžeš mít i ty! Registrace nutná na Lightning Talks – bit.ly/prpylight.
What to expect
You can look forward to one talk, lightning talks and chit-chat after.
Doors open at 19, first talk starts at 19.30.
You can have a lightning talk as well – please register at Lightning Talks – bit.ly/prpylight.
Obecné
- Na Pyvu jsou přednášky většinou česky, pokud přijde někdo, kdo česky nerozumí, přepneme do angličtiny, pokud se na to přednášející cítí.
- Kromě nealko a alko pití je možné se Na Věnečku najíst. Nabídka je proměnlivá a obvykle jde o 4 až 7 jídel od toastu, párků, přes bramborák se zelím, dršťkovou polévku a smažák v housce až po guláš nebo řízek.
- Nezapomeň s sebou vzít hotovost – neberou karty.
- Na Věnečku zavírají o půlnoci.
General
- Talks at Pyvo are mostly in Czech but it there’s somebody who doesn’t understand Czech talks are switched to English if the speaker is able to.
- Cash only payments – club doesn’t accept cards.
- Besides both soft drinks and beer it's possible to eat at the club. Choice is variable and consists of 4 to 7 options ranging from toast, sausages and soup to fried cheese in a bun, goulash or schnitzel.
- Club closes at midnight.
Talks
From Small PyTorch Models to GPT-like Transformers
- Peter Hozák
Peter Hozák presents: A Beginner's Guide to Understanding Large Language Models.
Links from the talk
- Small model for explaining ML terminology (based on PyTorch tutorial)
- Transformer circuits paper
- TransformerLens repo and notebook
- Cyborgism article for details about similators, agents, personalities in the model, mode collapse, ...
- aisafety.info for many more links and answers
Venue
Na Věnečku, Ostrovského 38a, Praha 5, Czech Republic, 15000
Jedná se o soukromý klub, takže nikde není žádná cedule. Když Ostrovského ulice přejde v chodník se zábradlím po obou stranách, jděte 60 metrů do kopce. První brána po pravé straně je vchod do dvora. Ujděte ještě 40 metrů a vchod do klubu najdete vlevo.
It’s a private club with no public signs. After Ostrovského street becomes a footpath walk 60 meters uphill. Club is in the first gate to the right. Go 40 more meters and entrance to the club will be to your left.
