OverLoCK
OverLoCK:
An Overview-first-Look-Closely-next ConvNet with Context-Mixing Dynamic
Kernels
经典的使得cnn再次伟大的论文。
如今的科研环境,模型的创新已经被极大的限制,达成了一个Transformer结构的统一共识。
作者是香港大学俞益洲教授与博士生娄蒙。
论文链接:https://arxiv.org/abs/2502.20087
代码链接:https://github.com/LMMMEng/OverLoCK
发表平台:CVPR2025(oral)
创新点
传统卷积的思路是从细节到全局的特征提取,感受野逐步变大。这篇文章讲了一个Top-down
attention(自上而下的注意力机制)在人类视觉系统的作用的故事。核心思路是先用一个网络提取全局的语义信息,再逐步减小感受野,观察图像细节。
一个可变形卷积。和之前得到可变形卷积的区别在于,具有上下文混合能力的新型动态卷积。
维度
传统动态卷积 (如 CondConv ...
LLM
加州大学洛杉矶分校【中英⚡LLM与强化学习|Spring
2025, Reinforcement Learning of Large Language Mod】
理解LLM的本质
理解LLM把它看做一个智能体或许不是一个合适的看法,相反,可以理解为一个信息的插值数据库,这是一种相对于复杂的人类作法,力大飞砖的作法。这种作法或许才是正道。
加入的大量预训练数据集,填充了这个世界模型的各个小区域,这些小区域的插值可以得到不少的信息。
LLM可以看做一个用自然语言作为查询语言的一个大的数据库,具有融合和插值的功能。
强化学习为什么好
传统的深度学习实际上是一种被动学习的过程,类似填鸭式的教育,这种学习方式,在近十年的时间内被证明是有效的,但是现有的数据量和算力使得这种方式的效率到达了一个平台期,无法通过数据规模和模型规模的放大更进一步;
而强化学习是一种主动学习,在action和试错之间学习到规律,这或许是一个突破现有瓶颈
的方法。
No title
NLP新闻分类学习赛
https://tianchi.aliyun.com/competition/entrance/531810/forum
介绍
这只是一个经典的分类任务,从不等长的文本序列,得出一个新闻的分类,一共是13种新闻分类。
从分类算法的发展历史来说,这有800种方法可以完成
传统的机器学习算法
CNN网络
新的预训练模型,基于Transformer结构的网络
数据
label
text
6
57 44 66 56 2 3 3 37 5 41 9 57 44 47 45
33 13 63 58 31 17 47 0 1 1 69 26 60 62 15 21 12 49 18 38 20 50 23 57 44
45 33 25 28 47 22 52 35 30 14 24 69 54 7 48 19 11 51 16 43 26 34 53 27
64 8 4 42 36 46 65 69 29 39 15 37 57 44 45 33 69 54 7 25 40 35 30 6 ...
DQN and GAN
https://brightendavid.github.io/2025/10/14/%E6%95%B0%E5%AD%A6%E5%BC%8F%E6%95%B0%E5%AD%97%E5%8C%96/lglr
数学式数字化如拉格朗日计算可见上链接
DQN
DQN 就是deep
Q-learn,深度Q-learn。是在强化学习中引入网络结构的一个早期比较成功的案例。基于Q-Learn算法原理做的一个应用。
核心公式
[!NOTE]
这是TD算法,做参数最优化的工作
$$
q{\tiny t+1} = q_t + \alpha _t[ q_\pi-\hat{q}(s{\tiny t},a,w_t)))]
$$
[!NOTE]
这是引入了Q-Learn计算qπ,并对w参数向量求偏导
$$
w {\tiny t+1} = w_t + \alpha _t[ r{\tiny t+1} + \gamma
(max(\hat{q}(s{\tiny t+1},a,w_t)-\hat{q}(s{\tiny
t},a,w_t)))]\bigtriangle ...
warp
[TOC]
warp在不同python库函数中的实现
做深度水印工作有感,warp的代码还是挺难找的。主要使用的是仿射变换实现,否则不可微。
cv2
不知道,谁拿cv2塞到网络里面呀
12345678910111213141516171819w,h,_ = img.shapesrc_points = np.array([[165., 270.], [400., 270.], [360., 125.], [400., 125.]], dtype="float32")dst_points = np.array([[165., 270.], [400., 270.], [165., 30.], [400., 30.]], dtype="float32")M = cv2.getPerspectiveTransform(src_points, dst_points)M = np.linalg.inv(M)print(M)out_img = cv2.warpPerspective(img,M,(h,w))cv2.imshow("i ...
Hello World hexo!
Welcome to Hexo! This is your very
first post. Check documentation for
more info. If you get any problems when using Hexo, you can find the
answer in troubleshooting or
you can ask me on GitHub.
Quick Start
Create a new post
12$ hexo new "My New Post"$ hexo new "标题"
新建文章会自带文章属性名,就是文章最上面的title和标签一类
文章标题名称可以是中文,会显示Unicode编码
文章标题中可以出现空格,空格自动转为-
似乎会自动添加图片存放文件夹,在同目录下的同名文件夹下就是图片文件夹,注意在Typora中设置图片存放目录
More info: Writing
Run server
12$ hexo server$ hexo s
More info ...
外设断网问题记录
笔记本外接屏幕断网问题
https://cloud.tencent.com/developer/article/2009011
使用HDML线接入外设屏幕,发现笔记本断网。
不才对网络一知半解,据上文所说有以下两个问题。
电磁屏蔽导致的WLAN信号屏蔽,需要将外设和笔记本距离拉远。
HDML占线问题,HDML就是连接外设和笔记本的数据线。这有一个统一的工业标准,该线可以连接几乎所有的外设,比如打印机、投影仪等,就是所谓的I/O设备,我几乎要把计算机组成的知识忘记了。HDML和WLAN的自动连接端口据说是重用的。
以上两个问题是同时作用,需要全部解决才是。
TP-LINK路由器登录地址:http://tplogin.cn/
philosophy
哲学研究
哲学没有历史的说法,或者说哲学本身就是历史。哲学和历史进程高度相关,时代会使得一些脱产者思考这个时代需要什么样的思想,例如世界本源是什么、人应当怎样活着的问题。同时又和前一个时代的哲学有很大的传承和补充性,像极了凑创新点的现代人。
古典时期
公元前7-6世纪,哲学初期研究万物的起源,一元论和多元论,同时也在进行唯心唯物论的争议,这和万物起源是一致的。与其说哲学初期的研究者是哲学家,不如说是披着哲学家皮的科学家。
米利都学派
哲学始于泰勒斯——万物是由水做成的。(米利都学派,米利都是一个地名,小亚细亚的希腊城市,也是一个比较繁荣的商业都市。)
毕达哥拉斯
数学与神学的结合开始于毕达哥拉斯,它代表了希腊的、中世纪的以及直迄康德为止的近代的宗教哲学的特征。
赫拉克利特
火是万物的本源,根本是实质;万物都像火焰,由别种的死亡而诞生,“一切产生于一,而一产生于一切”。“世界对于一切存在物都是同一的,它不是任何神或者任何人所创造的;它过去、现在和未来永远是一团永恒的活火,在一定的分寸上燃烧,在一定的分寸上熄灭;火首先成为海,海的一半称为土,另一半成为旋风。”“事物都是变 ...
冥契
冥契的牧神节
我不理解这些人演话剧为什么要死要活的。
魔性的真红
此世之真实,我了然于心;此世之丑陋,我尽收眼底。若是仔细一想,这世界还真是险恶至极啊。
柑碧的存在证明
暗红的憧憬
群青的荒诞
茜色的迷惑
灰色的观众席
人物
画师桑被称为当代毕加索不是没有原因的
image-20230806230122627
image-20230806230603431
不过我还是非常喜欢这个会社回忆用的灰度图手稿表现手法。



