跳转至

Blog

Semester-4-Week-10

  • 完成了第一次文献汇报并被挂黑板
  • 学习了CS61A的Week 2和Week 3
  • 代码复现比较失败
  • 看了李宏毅老师的一些课程
  • 染上了深度学习

小确幸

这周真的非常愉快,我看了很多机器学习和深度学习相关的东西,完善了自己对于MAML的理解,看了很多Youtube上的讲解,深感知识获取的容易和共享开源的精神,国内的环境还是有待培养啊,学习了实变函数并完成了考试,分数不太理想但是想到平均分不及格显然是压分了,那么我这个分数似乎算的上优秀?实在是学习了相当多的东西,周五学习了61A的Week2后周日继续完成了Week3,非常愉快的学习经历.

还看了李航老师的统计学习基础的一些章节,目测顺序有些问题,有些名词不是初学者应当知道的,或许在使用前补充一门导论课会比较方便(例如数据科学导论doge)

基本原则

再次确立了一些基本的原则

  • 绝不结婚(纯纯版本陷阱)
  • 绝不social(特指违背心意跟一些fvv拉关系)
  • 学习公开课
  • 学习基础理论并且代码复现
  • 大量睡觉,积极锻炼
  • 广泛阅读
  • 多看百合

反思

第一次做这种文献的汇报还是很有收获的,虽然被挂了黑板,,,主要的想法是:

  1. 学会挑刺,思考作者在文章中所施加的条件如果削弱或是推广会发生什么样的事情
  2. 多思考一些复杂的情形,比如数据集不良,初始点不良
  3. 对于细节实现也需要把握,比如一些基本的概念要清楚
  4. 有自己的idea,虽然这点很玄学,不过我觉得在大量的阅读paper后应该可以达到这样的程度
  5. 多follow相关研究,尽可能对这个方向5-10年的发展比较清楚
  6. 做代码实验,用例子来替代理论推导(没想到老师也不爱听理论推导哈哈)

下周计划

应该还需要制定一个五一的计划,不过主体肯定是要应对高代月考的,然后是刷完白皮书和谢惠民吧(对应部分辣),花一些时间去学数理统计和实变函数大概每门总计一天的时间

然后是对61A的学习,感觉能学到Week 5的样子

  • 数据科学导论汇报的会议
  • 随机过程的follow
  • 和老师的一次面谈
  • 数理统计AK
  • 实变函数用Folland的follow
  • 尽快复现一个深度学习项目
  • 学py的相关库(np,pd,sklearn,matplotlib,seaborn,stata-model,pytorch)
  • 高等代数的复习(预习)

Semester-4-Week-09

  • 完成数理统计期中
  • 开始复习实变函数
  • 完成体测
  • 体测补测合格

总结

这周实在太过复杂了,先是竭尽全力复习数理统计期中然后被原题羞辱(确实当时有病在身不过也仍然属于战犯表现了),然后就是开始了一段时间的无休止的内耗,完全不知道接下来要去干嘛了,周四周五几乎是睡了两天,在梦中梦到了很多跟高考有关的场景然后吓出了一身冷汗,还好跑了...也是活着的时候走马灯了....

PS:数理统计居然考的不算差

很值得提及的一个地方就是在周四周五睡觉的过程中,欲睡欲醒的一个状态下,想什么都感觉很快,灵感是不断涌现的,然后就得出了一些人生的小想法

周日去体测居然还用上120了,也是南绷(还是再感谢一下那个救了我的老师吧)

顿悟

主要的领悟来自于对GPA体系下如何破除优绩主义和为后续发展做出的一些思考,深思熟虑下发现原本在数理统计考后写的那篇帖子实际上还是过于重视GPA了,想删掉了,不过感觉放在那也是一个提醒吧

我梳理了几个观点,明确这些观点后做事会减少我犹豫的时间

  1. GPA不是没用的,只是刷GPA和学习知识之间存在测度大于0的矛盾,那么要不要刷GPA,我认为对于我来说是要的,不过不必每门课都拿4.0,即使3.7对于我来说也足矣保研了,谁让我要赌博走高校呢,其他人可能就没有用了()
  2. 人生只有一次(live only once),想着GPA活着是一种,完全摆脱也是一种,这都只是一种生命体验,没有高下之分,目前对于我来说比较好的做法就是按照考试拿高分的做法先拿到必要的GPA然后自己补全课程中有趣的部分
  3. 根据meta learning的观点,学习的过程是可以被优化的,也就是学习能力可以被学习的观点,这个观点对于我来说是很有用的,因为我一直以来没有搞过什么方法论之类的探究,完全依赖于粗糙的天性和直觉,但是最近倒是发现了方法论优化的必要性
  4. 每门课都深挖是不现实的,因为有些内容你会在后续的课程中用到和学到,目前专精决定数理统计和实变函数
  5. 睡眠是唯一的恢复脑力的方式,大睡有利于效率提高

然后就是想了一些粗糙的方法论没有完善,估计会再完善一些东西再写,下面的是一些相对完善的东西了:

粗糙的方法论

以下内容应该是针对于数学、统计学方面,其他领域可以参考

工具箱理论

对于初等内容而言由于知识体量的局限性,本身没有太多的点可以深挖或是技巧弥补本身理论的不足(例如你把Riemaan积分玩到天花乱坠也无法解决一些用Lebesgue积分理论可以轻松杀死的问题),那么这时候就需要一个Tool box,经常性的总结技巧方法或是思想,因为手法本身蕴含着思想,如果研究手法得当一样会促进对于思想的领悟,我先前一直对这种做法嗤之以鼻,并且凭借直觉可以做到比大多数喜欢记忆题型总结方法的人更好,不过近来倒是觉得这也是一种不错的想法,并且取得了一定的效果(比如实变ak了)

实践促进

说来惭愧,之前就阅读过教员的《实践论》,但是没有太多的理解,现在阅读了一些论文或是书籍感到困惑时,往往看代码实现或是一些工程项目结合实际思考,这时在操作过程中会浮现出书本没有给出的问题或是动机,促进原本的理解.接下来可能也会更多的结合代码复现去学习一些算法和统计理论.

PS:这个暑假就可以去找个实习试试,其实每门课的习题都有必要,习题是提高理解的一个重要方式

元学习

按照meta learning的观点,在学习别的知识的过程中对学习能力进行训练,不断提高自己在某些领域的成熟度(matuality),这个词语在许多的数学书籍中被大量的提及最近才更加深刻的体会,由于我自己对分析学的爱好和数学分析良好的基础,对于实变函数学习比数理统计轻松的多(什么?实变函数很难?对我真不如数理统计...),这或许就是成熟度的问题,而关于元学习的观点如何应用呢?目前的体会可能就是先不断的先向后learn再回到前面review,这样会得到更多的启发,掌握整体框架后就是框框往里填细节了(这种做法在初学分析时尝试过失败了,大概也是因为成熟度不足)

PS:其实发现机器学习很多算法和思想可以用来训练人,人的思维范式似乎也可以被这样优化,最近发现其实按照马克思的观点的话,世界由一对对的矛盾关系构成,而这显然也可以由函数映射表示,那么如果训练得当learn到好的学习函数的话自然可以通过微调(fine tuning)去提高learn别的领域的函数的速度吧.

实变函数复习

  • 基本的课本定理和课本内容
  • 课后习题
  • 再看周民强的习题集(助教说不用了)
  • 再看Folland

PS:似乎完成了AK

下周的计划

  • 希望做好文献汇报
  • 代码复现
  • 学习完数理统计的USTC部分
  • 学习高等代数(FDU)

文档整理计划

准备在那个网络资源整理那边再细化一个数学区域(把视频和讲义资源挂上去)

Semester-4-Week-08

有用的资源

总结

这周来讲是比较充实的,参加了一个研讨班的开班,自己发现了一个有关transfer learning的感兴趣的领域 -- meta learning,然后自己找了一篇比较感兴趣的论文准备在研讨班上讲,感觉还得抽时间做beamer其实挺折磨的了(现场学习beamer我的天),不过确实感觉对于算法的理解不够,希望通过这种研讨的方式倒逼自己去认真的阅读算法和提高代码能力.

还有一个比较欣慰的点应该是发现了Shao Jun这本好书,习题编写的很好,虽然是博士用的高等数理统计但是习题已经能做了,不知道是不是因为某校用的书太超前了还是美国phd水平太低了(doge),还发现了ustc的mbq老师的网课讲的非常好,上数理统计同时复习了数分、高代、概率论、实变函数、简单几何、泛函分析我是没想到的,没想到b站的网课还有这种质量呢.不过数理统计的习题也是写了非常多了,感觉进步还是相当大的.

相对的,这周真的很忙啊,得到了自己高代月考gg的消息(完全意料之外,自以为ak了),有点伤心,但是没想到一个写出来一些的题目被挂了0,一个用引理的题目只有一半的分数.周五抽出时间参加了大创答辩帮了点小忙(team spirit),大致完成了运筹的第二篇笔记吧,肯定还是需要修改的,自以为学的远不如第一篇单纯形好,关于如何修改文章使得网站和Ob同步(那个公式不知道为什么在网站渲染需要与ob不同的格式,所以改起来麻烦,可能到时候会多端分屏改吧).

插曲

周末刮起了大风无疑是给复习增加了压力,出门的成本变高了,但是宿舍效率也很低下,不过还是基本保持都在外面的状态,一想到下周考完数理统计要准备研讨还要准备实变函数的期中就想笑.

焦虑

目前主要焦虑的有以下这些点吧:

  • 高代月考考不好,满绩压力变大了
  • 研讨班可能需要每周占用半天的时间,但是准备时间应该也有大半天了(主讲人不用说,听的话也得看人家论文啊)
  • 有个比赛快要开始了还没有和队友联系
  • 数理统计题目太难了
  • 实变函数还没有复习(远没有到数分如臂使指的感觉)
  • 每周的一堆作业写不完一点
  • 统计软件课老师讲的太难了好奇考核

我将其他压力总结为以下两点

同辈压力

毕竟自己是转专业过来的所以课本来就比别人多两门加上自己还有一些比赛和科研的计划所以压力非常大,换句话说,不仅要把原本的数分高代拉满还需要跟上别人这学期起来的专业课.

环境压力

大环境不好,导致出国留学(尤其是去usa)变得异常困难,且风险很高,国内保研压力可以预见的会变大,然后又是一堆人想转cs或者金融导致环境压力变大.

一些感悟

  • 和周围人交流发现自己简直是个异类,无数的学业科研压力
  • 想做的事太多基本没法完美完成
  • 有时候请个病假去gap一个下午也是可行的
  • 扎实的基础需要大量的练习(数理统计/实变函数)
  • 课后习题质量其实还可以都刷完还是有提高的

Semester-4-Week-07

半周的反思

前三天主要是数学分析的复习阶段兼顾了数理统计和运筹学的学习,数学分析方面大概是二刷和扫尾了NKU书上Ch8、Ch9的所有课后习题和例题,弥补了大一的一些遗憾,还有XHM和PLW的刷题补充,有了一些自己的想法了,预计这个清明假期会修正和加入数学分析的一些Notes内容和答案的\(\LaTeX\)撰写(PS:XHM的例题质量太高了(二刷感慨,一刷光觉得难了),NKU的课后习题基本也是照搬或是改编的XHM/PLW).

然后是想了蛮久的还是决定自己做一个类似ZWP学长那样的资料站,并且一定会做,就算是大四也好一定要做出一些东西来,公众号或是MKDocs都无所谓,作为转专业的人深谙资源的重要性,本人还是想要以个人的微薄之力弥补统院资源匮乏的困境.最终报名了一个概率论和信息论的研讨班也不知道后续,安慰了考研失败的朋友,希冀我们都有美好的未来.

  • 完成了NKU课本的Ch8、Ch9所有习题
  • 也完成了XHM的两个section阅读和两个subsection的所有习题(质量太高了)
  • 预计也会综合PLW的习题写Notes

久违的一个小长假在周四下午的淑芬月考结束后(AK还是比较在意料内的)开始了,但是相应的笔者也要为之前复习月考而放弃或是不听课做出弥补,譬如统计软件这门课已经有三周(也就是恐怖的三个Lecture-numpy不熟;pandas不会;matplotlib主要靠AI),并且清明还和人约好了要学CS61a,那么就必须尽快完成作业了.

小计划

先陈列一下本次假期想要完成的吧:


Day 1

  • 实变函数作业(课后习题)-快要期中了+笔记?---4
  • 完成高等代数作业---1
  • 数理统计作业(课后习题)-快要期中了---3
  • 运筹学作业(编程作业-老师说不难-我感觉我会完蛋)---2
  • 预习/复习统计软件的内容(加一些网课然后做笔记)---5
  • CS61a的入门学习(配环境-制作Timeline)---6

Day 2

  • 正式开始CS61a的学习-Push
  • 看Folland并且阅读补充材料(Anon!)

Day 3

  • 完成数学分析的Notes
  • 随机过程的复习和Notes
  • 加快学习实变函数+习题+ZMQ

注1.第一天以完成作业争取时间为主,后两天除了要完成当天任务外还可以写文章(去看海棠)
注2.记得背单词和阅读英文书/实变函数和数理统计优先级较高
注3.CS61a的资源参考(24spring)如下:
1. ZJU课程评价平台
2. CSDIY
3. Videos/Recordings
4. 参考实现
5. Learn-CS
6. 24fall备份(可fork完成作业)

总结

  • 开始刷CS61A了,质量还是有的,难度目前没看出来,HW和Lab设置看的出来是比较用心的,确实引导的很详细了,目前来看美中不足的可能是video和reading的部分,有些大量重复的东西,然后是书里的一些东西和写法会略微抽象(评价是不如我的数理统计作业抽象),可能是我的英文问题
  • 建立了一个61A的仓库
  • 写完了绝大多数的作业(终于不用被ddl强行push了)
  • 开始深入阅读Folland和王院长的数理统计,还是很难,但是第二遍可能会深刻一些
  • 不知道为什么周末嗜睡,然后图书馆有些脏东西好像,最近不去了
  • 还是没有去写我的数学分析Notes和高等代数Notes,虽然感觉自己的境界还不高,但是难得觉得有如此多的体会还是稍微记录一下为好,希望下周尽快赶上(Goal: 第八章 第九章的习题和笔记/高代的线性映射部分)
  • 运筹学的Optional教材没有看,我还是很好奇那部分的
  • 随机过程的复习和预习也不是很到位,我最想深入学习的就是这门课了,还是要抽时间去做(但是确实忙也没办法,毕竟是旁听的还是该舍弃就舍弃吧)

下周的目标

  1. 继续学61A,看两个Week问题不大感觉
  2. 复习实变函数和数理统计准备期中考试/好难的数理统计/谁再说数院比统院难多了我杀了他,cs大一的xdx过来上了再说
  3. Folland的阅读/wzj数理统计的习题训练/zmq/zxw老师的实变阅读(好像终于快到控制收敛了)
  4. 学英语啊/买了一个单词笔,手机查的太麻烦了
  5. 软件方面继续跟进三个基本库:numpy/pandas/matplotlib

一个小注记:这学期课就是难没办法推进很快,所以原本的策略需要修改了,以习题加固的方法稳定推进,至于某些老师的Lecture嘛,谁爱听谁听吧.

完不成啊完不成,突然要期中了,然后61A搁置了,英语也没法follow,不过课程学习还是有很大进步的