簡而言之:深入探索大型語言模型 (LLMs) 的世界,並遵循結構化的學習路徑。從基礎數學到實際應用開發,本指南涵蓋了掌握大型語言模型所需的基本資源、課程和工具,包括從零開始實現模型、提示工程和微調。
探索大型語言模型的世界
隨著我們更深入地探索大型語言模型 (LLMs) 的非凡世界,理解這些基礎框架對於任何希望在人工智慧領域中脫穎而出的人來說都是至關重要的,特別是對於OpenAI的GPT和類似模型。在這裡,我呈現了一條精心策劃的路線圖,以掌握大型語言模型,結合視頻教程、實作編碼和全面指南。
從基礎開始:入門資源
以富有見地的簡報開始你的旅程:
- 觀看Andre的「大型語言模型簡介」,以掌握核心概念。深入了解由康奈爾科技的Alexander Rush所提供的「五個公式中的大型語言模型」。神經網絡:從零到英雄
- Andrej Karpathy的系列「神經網絡:從零到英雄」是必看的。它涵蓋了從編碼反向傳播到從零開始構建GPT模型的所有內容。對於那些渴望探索更多的人,請查看他最新的視頻,介紹如何構建「GPT標記器」。免費大型語言模型訓練營全棧深度學習提供了一個「免費大型語言模型訓練營」,涵蓋提示工程、大型語言模型運營和快速啟動大型語言模型應用。
使用大型語言模型進行應用開發
如果你準備好使用大型語言模型構建應用,這些資源將是無價的:觀看Andrew Ng的「使用大型語言模型進行應用開發」。閱讀Huyen Chip的「為生產構建大型語言模型應用」。探索Eugene Yan的「構建基於大型語言模型的系統和產品的模式」。利用「OpenAI食譜」獲取實用的食譜。
用「Vercel AI模板」啟動你的項目。
參與黑客馬拉松參加每週在lablab.ai舉辦的人工智慧黑客馬拉松。如果你想合作,請告訴我!深化你的理解:閱讀重要論文
Sebastian Raschka的
If you're ready to build applications using LLMs, these resources are invaluable:
- Watch Application Development using Large Language Models by Andrew Ng.
- Read Building LLM applications for production by Huyen Chip.
- Explore Patterns for Building LLM-based Systems & Products by Eugene Yan.
- Utilize the OpenAI Cookbook for practical recipes.
- Kickstart your projects with Vercel AI templates.
Engage in Hackathons
Participate in weekly AI hackathons at lablab.ai. Let me know if you want to collaborate!
Deepen Your Understanding: Read Essential Papers
Sebastian Raschka’s 理解大型語言模型是一篇綜合性的文章,列出了重要的閱讀論文。請關注他的Substack,在AI之前。從零開始編寫變壓器
深入了解
- 變壓器家族版本2.0以獲得概覽。關鍵論文包括
- 注意力即所有你需要的和插圖變壓器。參與綜合指南和部落格,以從零開始實現變壓器。學習運行開源模型
- 利用
ollama
開始使用像Llama 2的模型。掌握提示工程探索
提示工程 | Lil’Log
並報名參加像ChatGPT提示工程為開發者的課程。微調LLMs請參考Hugging Face微調指南。
查看
- 微調 — GenAI指南。理解RAG探索有關檢索增強生成(RAG)的文章,例如
- 建立基於RAG的LLM應用程序的綜合指南。通過利用這些資源,您不僅能增強對LLMs的理解,還能獲得實用技能,以在AI領域創新和領導。深入了解,讓探索之旅開始!.
Understanding RAG
Explore articles on Retrieval Augmented Generation (RAG) such as A Comprehensive Guide for Building RAG-based LLM Applications.
By leveraging these resources, you'll not only enhance your understanding of LLMs but also gain practical skills to innovate and lead in the realm of AI. Dive in, and let the journey of discovery begin!

