L1 Loss

也称为Mean Absolute Error，即平均绝对误差（MAE），它衡量的是预测值与真实值之间距离的平均误差幅度，作用范围为0到正无穷。

优点： 对离群点（Outliers）或者异常值更具有鲁棒性。

插值算法

拉格朗日插值法

对于这几个点，想找到一根穿过他们的曲线。 我们可以合理地假设，这根曲线是一个二次多项式

\[ y = a_0 + a_1x + a_2x^2 \]

可以通过下面的方程组来解这个二次多项式：

无重叠区间

https://leetcode-cn.com/problems/non-overlapping-intervals/

利用了贪心 移除的数目就是总数目减去条件成立的数目

class Solution:
    def eraseOverlapIntervals(self, intervals: List[List[int]]) -> int:
        if len(intervals) == 0:
            return 0
        res = 0
        mins = -float("inf")
        for i in sorted(intervals,key=lambda i:i[1]):
            if i[0] >= mins:
                res += 1
                mins = i[1]
        return len(intervals) - res

注意是根据end进行排序的，引用别人的解释@HONGYANG

对角线遍历

题目：

​ https://leetcode-cn.com/problems/diagonal-traverse/

思路：

​ 每个对角线的两索引之和是一样的

代码：

class Solution:
    def findDiagonalOrder(self, matrix: List[List[int]]) -> List[int]:
        if not matrix: 
            return []
        hashs = collections.defaultdict(list)
        row, col = len(matrix), len(matrix[0])

        for i in range(row):
            for j in range(col):
                hashs[j + i].append(matrix[i][j])
        res = []
        flag = True
        for k, v in sorted(hashs.items()):
            if flag:
                res.extend(v[::-1])
            else:
                res.extend(v)
            flag = not flag
        return res

注意flag的作用

主成分分析(PCA)

主成分分析（Principal components analysis，以下简称PCA）是最重要的降维方法之一。在数据压缩消除冗余和数据噪音消除等领域都有广泛的应用。注意的是PCA属于无监督学习。

Bert

BERT 的模型架构非常简单，你已经知道它是如何工作的：它只是 Transformer 的编码器。新的是训练目标和 BERT 用于下游任务的方式。

我们如何使用纯文本训练（双向）编码器？我们只知道从左到右的语言建模目标，但它仅适用于每个标记只能使用以前的标记（并且看不到未来）的解码器。BERT 的作者提出了其他未标记数据的训练目标。在讨论它们之前，让我们先看看 BERT 作为 Transformer 编码器的输入。

常用命令

diff

git diff：当工作区有改动，临时区为空，diff的对比是“工作区”与最后一次commit提交的仓库的共同文件”；当工作区有改动，临时区不为空，diff对比的是“工作区”与“暂存区”的共同文件”。 git diff --cached：显示暂存区与最后一次commit的改动。 git diff <分支1> <分支2> 显示两个分支最后一次commit的改动。

编辑距离

定义

编辑距离(Edit Distance)是针对两个字符串S1和S2的差异程度进行量化，计算方式是看至少需要多少次的处理才能将S1变成S2（和S2变成S1是等价的），用 EditDis(S1,S2)表示。

因子分析

可以看成主成分分析（PCA）的发展和拓展

如果数据之间有较强的相关性，我们就可以把它们打包到一起作为一个值。这就是所谓的数据降维。

有较强的相关性，是我们可以做因子分析的前提条件。

# 练习1-具有神经网络思维的Logistic回归

1 数据预处理

1.1 数据加载和查看

在开始之前，我们有需要引入的库：

• numpy ：是用Python进行科学计算的基本软件包。
• h5py：是与H5文件中存储的数据集进行交互的常用软件包。
• matplotlib：是一个著名的库，用于在Python中绘制图表。

import numpy as np
import matplotlib.pyplot as plt
import h5py

/opt/conda/lib/python3.6/site-packages/h5py/__init__.py:36: FutureWarning: Conversion of the second argument of issubdtype from `float` to `np.floating` is deprecated. In future, it will be treated as `np.float64 == np.dtype(float).type`.
  from ._conv import register_converters as _register_converters

接下来，需要运行load_dataset函数来读取数据文件中所存储的数据，并返回：