陈沙克日志 | shake Blog

孩子泰国清迈留学总结

Summary of children studying abroad in Chiang Mai

以前我写过孩子出国留学的总结，上次因为事故，文章丢失。这次重新再写，应该有不少的新的体会和认识。留学地点选择对于中学出去留学地点，其实很多选择，如果是亚洲，那么3个热门地区新加坡马来西亚（槟城，吉隆坡）泰国（曼谷，普吉岛，清迈）为啥选择清迈，一个字，穷。清迈肯定不是最好的，过了3年，结论是肯定是最适合我们家庭的。 2024年，清迈的正常消费，孩子和母亲...

Posted by shake on April 17, 2024

Switch 硬破和使用

Switch Cracked

主要是给孩子做一个记录。总结这几天深入学习switch，了解一下所谓的switch的生态。 Switch Firmwares 大气层大气层整合包整合包是解决大气层还欠缺的各种工具，汉化等。让你开箱即用。破解 switch的破解分成两种：硬破和软破。他们都是利用了芯片的漏洞（进入Nvidia T210的工程模式，RCM），运行自制代码。这就意味着可以引导到...

Posted by shake on April 10, 2024

滑铁卢大学高中数学竞赛

uwaterloo math competition

今天孩子的家长群发消息，学校可以报名参加滑铁卢大学的数学竞赛。其实这个我也很早听说过，不过没具体查过资料。这次就顺便整理一下。滑铁卢大学的竞赛不允许个人报名，必须以学校名义去报考。滑铁卢大学的初中高中数学竞赛的题目完全对外开放。历年真题和答案初中竞赛 Gauss (Grade 7 and 8) 高斯，数学竞赛的名字，用数学家的名字，其实这个挺好的。顺便可以普及一下这个数学家历...

Posted by shake on March 28, 2024

滑铁卢大学计算机竞赛

uwaterloo compute competition

滑铁卢大学的数学竞赛和计算机竞赛，是相同的机构举办。我看了一下真题，反正我是没看懂。刚才看了一下清迈是有BCC的培训，微信搜索：清迈迈蓝。唯一的问题就是中文教编程，而我希望孩子是用英文来学编程。海外学生可以参与海狸计算机挑战赛（BCC），并且可以个人名字直接报名只有加拿大境内的学生才可以参加计算机竞赛（CCC）和CCO竞赛。历年真题和答案竞赛开发语言可...

Posted by shake on March 28, 2024

低龄孩子海外留学误区

Misunderstandings about studying abroad

让孩子出国读书，肯定会让你踩坑，改变你的认知。这里就根据我自己的孩子的经历，整理一下成年人的对孩子出国留学的误区。学好英语再出去我英语不好，无法出去读书，需要在国内提前把英语补习好。去新东方加强一下。其实我当初何尝没这样的想法，只是当时疫情，不可能实现而已。孩子的英语水平是小学4年级的水平，加上4年每年一万的外面英语培训，当时学校通过视频远程面试的时候，真的让我有点崩溃。孩子...

Posted by shake on March 4, 2024

孩子3年留学总结

Children’s three-year study abroad career

3年前，也就是2021年3月2日，我请了一天假，送孩子和太太到首都国际机场，飞去清迈，开始留学的生涯。那个时候去泰国留学，还是比较折腾，需要在曼谷隔离14天，全价的机票，这样一折腾，多花2万多的RMB。不过现在回头看，一切都是比较值得。孩子的留学年龄是：10岁，国内读完五年级的第一学期。收获出去读书，其实很多时候，不仅仅改变孩子，还改变了我很多观念和认知。对于一个IT从业...

Posted by shake on March 1, 2024

神经网络的理解

Understand Of Neural Networks

最近看到了很多很好的学习材料，帮助我理解神经网络。用三种函数带你秒懂神经网络算法用Excel輕鬆建立、訓練和使用神經網路Neural Network 基于上面的材料，我整理自己的学习笔记。专业术语人工智能、机器学习、深度学习和神经网络关系，用一张图，就可以很容易说清楚。 CNN（卷积神经网络 Convolutional Neural Netw...

Posted by shake on February 1, 2024

Understand fine-tuning Parameters

大模型微调参数理解

在微调大模型的时候，看到很多参数，感觉参数间是有关系。所以这里整理我能理解的参数和互相关系。 epochs epochs：中文含义是纪元的意思，那么在微调里，就是一个周期。就是把数据集训练一次的含义。 dataset 数据集，在hanggingface上有大量开源的数据集，你可以拿来训练。大小不同，看数据集大小，就看有多少行数据。 guanaco-llama2-1k 这个数据集是...

Posted by shake on January 13, 2024

Official code run and testing Llama-2

官方文档运行和测试Llama-2

Llama-2的原始模型，其实我没运行过，尝试照着官方的文档运行，16G的显存，运行失败，看来是必须使用24G显存，才能直接运行起来。这次是在阿里的魔搭进行实验。 1 2 %cd /mnt/ !ls Llama-2-7b 下载Llama-2-7b 1 !git clone https://www.modelscope.cn/shakechen/Llama-2-7b.git ...

Posted by shake on January 7, 2024

How Many GPU Need For LLM Training

大模型算力计算

大模型要什么了解，最好的入门，就是计算训练一次大模型，需要多少张卡，多少时间。这个过程中，真的接触很多新的词汇。参考文章大模型训练为什么用 A100 不用 4090 语言模型的训练时间：从估算到 FLOPs 推导大模型算力推演优化实战 OpenAI 总监演讲深刻理解上面材料的内容，总结。 FLOPS FLOPS（floating-point ope...

Posted by shake on January 6, 2024