Leo Lee's Blog
博客
分类
标签
归档
友链
关于
博客
分类
标签
归档
友链
关于
Leo Lee's Blog
Welcome everyone
博客
分类
标签
归档
友链
关于
有关流形(Manifold)和嵌入(Embedding)的笔记
流形,也就是 Manifold 。嵌入,也就是Embedding。 有时候经常会在paper里看到“嵌入在高维空间中的低维流形”,以及机器学习里的Embedding层。不过高维的数据对于我们这些可怜的低维生物来说总是很难以想像(论为什么要学习高等代数),所以最直观的例子通常都会是嵌入在三维空间中的二维或者一维流形。比如说一块布,可以把它看成一个二维平面,这是一个二维的欧氏空间,现在我们(在...
2022-07-10
阅读全文
有关self-attention的笔记
这学期一直都在看ViT(Vision Transformer),现在的transformer近似于一种“大道至简”,在各个领域都可以作为一个baseline。 如果谈到Transformer那首先就会谈到self-attention。 Transformer是一个Sequence to Sequence model,特别之处在于它大量用到了self-attention。 要处理一个...
2022-07-10
阅读全文
有关多臂老虎机问题的一些算法
用数理统计方法解决多臂老虎机问题 摘要 多臂老虎机问题(Multi-Armed Bandit problem,简称MAB问题)是概率论与数理统计中一个经典问题,也属于机器学习中强化学习的范畴。 在这个问题中,赌徒必须决定在一系列试验中使用不同的老虎机中的哪一个,以最大化他的回报。这一经典问题之所以受到广泛关注,是因为它提供了一个简单的模型,在探索(尝试每个机器以找到回报最好的一台)、...
2021-12-02
阅读全文
上一页
2 / 2