【Datawhale AI夏令营第四期】 浪潮源大模型应用开发方向笔记 Task02 精读BaseLine代码

【Datawhale AI夏令营第四期】 浪潮源大模型应用开发方向笔记 Task02 学习BaseLine代码

Task02学习链接： https://linklearner.com/activity/14/11/30
学习期间听了开营仪式，在老师的介绍下才发现跑完BaseLine以后学习手册还有后半部分的知识，然后闻着BOSS直聘关键词的味找了几个我自己感兴趣的点：

情况1和3我都遇到过：比如遇到一个新名词，大模型不知道，要是问题指定了日期（非必须条件），模型发现自己知识库过时了，就开始疯狂道歉：《对不起我的学习内容截至于blabla》。
要是是个一般常识性问题，模型意识不到自己不知道，就可能开始瞎编，比如《生蚝煮熟以后是熟蚝吗？》

大模型应用开发：Gradio，Streamlit
这俩词在BOSS直聘上也会露面。我猜很可能是本次夏令营我需要花功夫的地方。

Gradio官方文档：https://www.gradio.app/guides/quickstart
Streamlit官方文档：https://docs.streamlit.io/develop/api-reference
Streamlit给我的感觉就是个新概念的前端，而且看他的展示应该很多基础功能，比如按钮、调色板啥的都有实现。

然后我就在思考这是不是可以举一反三——streamlit提供了这么多现有的UI实现，其他的前端库也许也有，比如Unity的UGUI，滑动条按钮下拉框一应俱全，当时本科实习就做的Unity前端开发，让我们项目需求写个调色板觉得老难了，换到这也许就很简单了。

PS：我还真的去搜了Unity使用UGUI该怎么制作调色板，嘻嘻。看起来数学公式还挺复杂，不过只要这个需求有前人做过就不是问题，就怕让我创新发明。
《【Unity】关于调色板的简单制作》：
https://blog.csdn.net/weixin_44058587/article/details/139996080
全栈卷王专用传送门

这思路我一下子没看懂，但我大受震撼：

目前看来，我感觉Streamlit从功能划分、官方文档、使用方式上都对新手似乎要友善一些。示例的BaseLine也是用到的这个库。


服务端这块我之前也没啥了解，就存个官方教程吧：

官方很贴心地放出了BaseLine流程设计的细节，那我就不客气地拿下了。相比于我之前Task01笔记中展示的自己用DeepSense调用api’简单制作的一个对话助手，这个BaseLine有我没有想到该怎么实现的【交互历史拼接】功能。

我觉得对于以前有了解但缺乏实际开发经验的小伙伴来说，可以对着代码敲一下这个BaseLine，感受一下现成代码的效果找感觉。毕竟这个教程文档写得这么详细，不能浪漫白嫖的机会。

这后半部分的过程还真有点抽象，成功吸引了我的注意。

另外，官方还过分善良地给了我们玩其他模型的机会：
IEITYuan/Yuan2-2B-Mars-hf：https://modelscope.cn/models/IEITYuan/Yuan2-2B-Mars-hf
IEITYuan/Yuan2-2B-July-hf：
https://modelscope.cn/models/IEITYuan/Yuan2-2B-July-hf
IEITYuan/Yuan2-2B-Janus-hf：
https://modelscope.cn/models/IEITYuan/Yuan2-2B-Janus-hf
IEITYuan/Yuan2-2B-Februa-hf-GGUF：
https://www.modelscope.cn/models/IEITYuan/Yuan2-2B-Februa-hf/files
IEITYuan/Yuan2.0-51B-hf：
https://modelscope.cn/models/IEITYuan/Yuan2.0-51B-hf
IEITYuan/Yuan2.0-102B-hf：
https://modelscope.cn/models/IEITYuan/Yuan2.0-102B-hf


在学习复刻BaseLine的时候，我意外发现JupyterNotebook要实现一些简单的UI其实比我想的方便（感谢Kimi！）