跳转至

Semester-4

Semester-4-Week-11

五一节前三天:

  • 看了Folland的测度部分
  • 完成了61A的Week4并且深入了解了一下虚拟环境的问题
  • 配置了一些深度学习有关的包并做了简单的实验
  • 对数据科学导论的任务内容有了一些进展
  • 做了运筹的一些笔记完善(实际是还债)
  • 和老师进行了一次talk,接受了一些问题(应该会在后续推进)

五一

Day 1

主要是休息,不过还是完成了61A的Project1-Hog的内容,感觉还是比较充实的,然后是看完了终将成为你,看了一些漫画,终将成为你无愧经典百合作品的称号!非常伟大的作品,让我生出了想要为它写万字长文解析的念头,不过冰菓的还没写好,还是先咕咕吧

Day 2

计划是数理统计按照USTC的教材(wls)学完所有再按照NKU版本复习巩固完成习题,实际后面睡了半天之后开始打明日方舟了,然后感觉EW太超模了,一年没玩大变样,不过好消息是送的十连出了蕾缪安

Day 3

计划是学完高等代数,然后再补充白皮书的内容,加上北大五版的习题

还得补数理统计和运筹学、实变函数的作业,放假了还要补作业南平...

最后结果大概是姑且是补完了数理统计作业吧,感觉还是有一点难度,高等代数还没学

Day 4

一觉醒来就是中午了,看了几集金牌得主然后就去图书馆补实变函数作业了,,,补完了实变函数作业之后继续看高等代数,把Slides上面的内容大概修了一下,然后整理了一些高等代数的笔记

Day 5

(实际已经超出了本周不过为了方便起见还是并入)

一觉醒来还是中午,下午写完了高代作业,运筹作业看完了金牌得主、PA饭、MONO女孩,晚上稍微复习了高等代数,大概是写完了白皮书的特征值与特征向量一节,然后发现北大五版高代对于Jordan标准型,有理标准型没有什么深入的讲述,感觉在做无用功了

复习高等代数计划:

  • 先看完北大五版的课本熟悉定义和记号
  • 看Slides并写好笔记
  • 刷绿皮和白皮书增加理解
  • 继续回头看北大五版的课本
  • 再刷白皮书

总结

休息的特别好,玩的特别开心,也看了不少动漫,游戏也打的很愉快,感觉心理状态得到了恢复,虽然工作没有什么推进就是了(),准备更新一下方法论文章然后开始继续工作了.

Semester-4-Week-10

  • 完成了第一次文献汇报并被挂黑板
  • 学习了CS61A的Week 2和Week 3
  • 代码复现比较失败
  • 看了李宏毅老师的一些课程
  • 染上了深度学习

小确幸

这周真的非常愉快,我看了很多机器学习和深度学习相关的东西,完善了自己对于MAML的理解,看了很多Youtube上的讲解,深感知识获取的容易和共享开源的精神,国内的环境还是有待培养啊,学习了实变函数并完成了考试,分数不太理想但是想到平均分不及格显然是压分了,那么我这个分数似乎算的上优秀?实在是学习了相当多的东西,周五学习了61A的Week2后周日继续完成了Week3,非常愉快的学习经历.

还看了李航老师的统计学习基础的一些章节,目测顺序有些问题,有些名词不是初学者应当知道的,或许在使用前补充一门导论课会比较方便(例如数据科学导论doge)

基本原则

再次确立了一些基本的原则

  • 绝不结婚(纯纯版本陷阱)
  • 绝不social(特指违背心意跟一些fvv拉关系)
  • 学习公开课
  • 学习基础理论并且代码复现
  • 大量睡觉,积极锻炼
  • 广泛阅读
  • 多看百合

反思

第一次做这种文献的汇报还是很有收获的,虽然被挂了黑板,,,主要的想法是:

  1. 学会挑刺,思考作者在文章中所施加的条件如果削弱或是推广会发生什么样的事情
  2. 多思考一些复杂的情形,比如数据集不良,初始点不良
  3. 对于细节实现也需要把握,比如一些基本的概念要清楚
  4. 有自己的idea,虽然这点很玄学,不过我觉得在大量的阅读paper后应该可以达到这样的程度
  5. 多follow相关研究,尽可能对这个方向5-10年的发展比较清楚
  6. 做代码实验,用例子来替代理论推导(没想到老师也不爱听理论推导哈哈)

下周计划

应该还需要制定一个五一的计划,不过主体肯定是要应对高代月考的,然后是刷完白皮书和谢惠民吧(对应部分辣),花一些时间去学数理统计和实变函数大概每门总计一天的时间

然后是对61A的学习,感觉能学到Week 5的样子

  • 数据科学导论汇报的会议
  • 随机过程的follow
  • 和老师的一次面谈
  • 数理统计AK
  • 实变函数用Folland的follow
  • 尽快复现一个深度学习项目
  • 学py的相关库(np,pd,sklearn,matplotlib,seaborn,stata-model,pytorch)
  • 高等代数的复习(预习)

Semester-4-Week-09

  • 完成数理统计期中
  • 开始复习实变函数
  • 完成体测
  • 体测补测合格

总结

这周实在太过复杂了,先是竭尽全力复习数理统计期中然后被原题羞辱(确实当时有病在身不过也仍然属于战犯表现了),然后就是开始了一段时间的无休止的内耗,完全不知道接下来要去干嘛了,周四周五几乎是睡了两天,在梦中梦到了很多跟高考有关的场景然后吓出了一身冷汗,还好跑了...也是活着的时候走马灯了....

PS:数理统计居然考的不算差

很值得提及的一个地方就是在周四周五睡觉的过程中,欲睡欲醒的一个状态下,想什么都感觉很快,灵感是不断涌现的,然后就得出了一些人生的小想法

周日去体测居然还用上120了,也是南绷(还是再感谢一下那个救了我的老师吧)

顿悟

主要的领悟来自于对GPA体系下如何破除优绩主义和为后续发展做出的一些思考,深思熟虑下发现原本在数理统计考后写的那篇帖子实际上还是过于重视GPA了,想删掉了,不过感觉放在那也是一个提醒吧

我梳理了几个观点,明确这些观点后做事会减少我犹豫的时间

  1. GPA不是没用的,只是刷GPA和学习知识之间存在测度大于0的矛盾,那么要不要刷GPA,我认为对于我来说是要的,不过不必每门课都拿4.0,即使3.7对于我来说也足矣保研了,谁让我要赌博走高校呢,其他人可能就没有用了()
  2. 人生只有一次(live only once),想着GPA活着是一种,完全摆脱也是一种,这都只是一种生命体验,没有高下之分,目前对于我来说比较好的做法就是按照考试拿高分的做法先拿到必要的GPA然后自己补全课程中有趣的部分
  3. 根据meta learning的观点,学习的过程是可以被优化的,也就是学习能力可以被学习的观点,这个观点对于我来说是很有用的,因为我一直以来没有搞过什么方法论之类的探究,完全依赖于粗糙的天性和直觉,但是最近倒是发现了方法论优化的必要性
  4. 每门课都深挖是不现实的,因为有些内容你会在后续的课程中用到和学到,目前专精决定数理统计和实变函数
  5. 睡眠是唯一的恢复脑力的方式,大睡有利于效率提高

然后就是想了一些粗糙的方法论没有完善,估计会再完善一些东西再写,下面的是一些相对完善的东西了:

粗糙的方法论

以下内容应该是针对于数学、统计学方面,其他领域可以参考

工具箱理论

对于初等内容而言由于知识体量的局限性,本身没有太多的点可以深挖或是技巧弥补本身理论的不足(例如你把Riemaan积分玩到天花乱坠也无法解决一些用Lebesgue积分理论可以轻松杀死的问题),那么这时候就需要一个Tool box,经常性的总结技巧方法或是思想,因为手法本身蕴含着思想,如果研究手法得当一样会促进对于思想的领悟,我先前一直对这种做法嗤之以鼻,并且凭借直觉可以做到比大多数喜欢记忆题型总结方法的人更好,不过近来倒是觉得这也是一种不错的想法,并且取得了一定的效果(比如实变ak了)

实践促进

说来惭愧,之前就阅读过教员的《实践论》,但是没有太多的理解,现在阅读了一些论文或是书籍感到困惑时,往往看代码实现或是一些工程项目结合实际思考,这时在操作过程中会浮现出书本没有给出的问题或是动机,促进原本的理解.接下来可能也会更多的结合代码复现去学习一些算法和统计理论.

PS:这个暑假就可以去找个实习试试,其实每门课的习题都有必要,习题是提高理解的一个重要方式

元学习

按照meta learning的观点,在学习别的知识的过程中对学习能力进行训练,不断提高自己在某些领域的成熟度(matuality),这个词语在许多的数学书籍中被大量的提及最近才更加深刻的体会,由于我自己对分析学的爱好和数学分析良好的基础,对于实变函数学习比数理统计轻松的多(什么?实变函数很难?对我真不如数理统计...),这或许就是成熟度的问题,而关于元学习的观点如何应用呢?目前的体会可能就是先不断的先向后learn再回到前面review,这样会得到更多的启发,掌握整体框架后就是框框往里填细节了(这种做法在初学分析时尝试过失败了,大概也是因为成熟度不足)

PS:其实发现机器学习很多算法和思想可以用来训练人,人的思维范式似乎也可以被这样优化,最近发现其实按照马克思的观点的话,世界由一对对的矛盾关系构成,而这显然也可以由函数映射表示,那么如果训练得当learn到好的学习函数的话自然可以通过微调(fine tuning)去提高learn别的领域的函数的速度吧.

实变函数复习

  • 基本的课本定理和课本内容
  • 课后习题
  • 再看周民强的习题集(助教说不用了)
  • 再看Folland

PS:似乎完成了AK

下周的计划

  • 希望做好文献汇报
  • 代码复现
  • 学习完数理统计的USTC部分
  • 学习高等代数(FDU)

文档整理计划

准备在那个网络资源整理那边再细化一个数学区域(把视频和讲义资源挂上去)

Semester-4-Week-08

有用的资源

总结

这周来讲是比较充实的,参加了一个研讨班的开班,自己发现了一个有关transfer learning的感兴趣的领域 -- meta learning,然后自己找了一篇比较感兴趣的论文准备在研讨班上讲,感觉还得抽时间做beamer其实挺折磨的了(现场学习beamer我的天),不过确实感觉对于算法的理解不够,希望通过这种研讨的方式倒逼自己去认真的阅读算法和提高代码能力.

还有一个比较欣慰的点应该是发现了Shao Jun这本好书,习题编写的很好,虽然是博士用的高等数理统计但是习题已经能做了,不知道是不是因为某校用的书太超前了还是美国phd水平太低了(doge),还发现了ustc的mbq老师的网课讲的非常好,上数理统计同时复习了数分、高代、概率论、实变函数、简单几何、泛函分析我是没想到的,没想到b站的网课还有这种质量呢.不过数理统计的习题也是写了非常多了,感觉进步还是相当大的.

相对的,这周真的很忙啊,得到了自己高代月考gg的消息(完全意料之外,自以为ak了),有点伤心,但是没想到一个写出来一些的题目被挂了0,一个用引理的题目只有一半的分数.周五抽出时间参加了大创答辩帮了点小忙(team spirit),大致完成了运筹的第二篇笔记吧,肯定还是需要修改的,自以为学的远不如第一篇单纯形好,关于如何修改文章使得网站和Ob同步(那个公式不知道为什么在网站渲染需要与ob不同的格式,所以改起来麻烦,可能到时候会多端分屏改吧).

插曲

周末刮起了大风无疑是给复习增加了压力,出门的成本变高了,但是宿舍效率也很低下,不过还是基本保持都在外面的状态,一想到下周考完数理统计要准备研讨还要准备实变函数的期中就想笑.

焦虑

目前主要焦虑的有以下这些点吧:

  • 高代月考考不好,满绩压力变大了
  • 研讨班可能需要每周占用半天的时间,但是准备时间应该也有大半天了(主讲人不用说,听的话也得看人家论文啊)
  • 有个比赛快要开始了还没有和队友联系
  • 数理统计题目太难了
  • 实变函数还没有复习(远没有到数分如臂使指的感觉)
  • 每周的一堆作业写不完一点
  • 统计软件课老师讲的太难了好奇考核

我将其他压力总结为以下两点

同辈压力

毕竟自己是转专业过来的所以课本来就比别人多两门加上自己还有一些比赛和科研的计划所以压力非常大,换句话说,不仅要把原本的数分高代拉满还需要跟上别人这学期起来的专业课.

环境压力

大环境不好,导致出国留学(尤其是去usa)变得异常困难,且风险很高,国内保研压力可以预见的会变大,然后又是一堆人想转cs或者金融导致环境压力变大.

一些感悟

  • 和周围人交流发现自己简直是个异类,无数的学业科研压力
  • 想做的事太多基本没法完美完成
  • 有时候请个病假去gap一个下午也是可行的
  • 扎实的基础需要大量的练习(数理统计/实变函数)
  • 课后习题质量其实还可以都刷完还是有提高的