机器学习旅程系列（机器学习实战）

人工智能、计算智能、机器学习的关系?

计算机视觉和机器视觉，分别聚焦于模仿人类视觉和结合图像分析与机械工程的智能应用。总的来说，人工智能、计算智能与机器学习相互交织，共同构建了现代科技的基石。深入探索它们的边界，我们不仅能在科技的海洋中游刃有余，更能推动人类社会向更智能、更高效的方向前进。

人工智能是在数据科学基础上发展起来的。而机器学习是人工智能的在实际当中的应用。他们是基础与应用科学与生产实践的关系。

严格意义上说，人工智能和机器学习没有直接关系，只不过目前机器学习的方法被大量的应用于解决人工智能的问题而已。早期的机器学习实际上是属于统计学，而非计算机科学的；而二十世纪九十年代之前的经典人工智能跟机器学习也没有半毛钱关系。所以今天的AI和ML有很大的重叠，带并没有严格的从属关系。

简单来说，机器学习是实现人工智能的方法，深度学习是实现机器学习的技术。机器学习在实现人工智能时中需要人工辅助（半自动），而深度学习使该过程完全自动化。

南大周志华老师的机器学习和深度学习「花书」这两本书的区别以及学习顺...

1、深度解析：《机器学习》与《深度学习》花书的异同及学习路径在探索机器学习和深度学习的海洋中，南大周志华老师推荐的《机器学习》（花书）和《深度学习》（西瓜书）各有千秋/。这两本书在教学资源的整合上有着独特的价值，但学习路径并非孤立，而是需要巧妙结合其他课程以深化理解。

2、人工智能 机器学习 深度学习三者的关系是，人工智能包括机器学习，而机器学习包括深度学习。深度学习是机器学习众多算法中的一类，即通过模拟生物学神经网络来解决问题的一种模型 机器学习中的很多思想，在深度学习中也会有所应用。

3、深度学习使机器更加聪明，带给我们更加智能的服务。

4、应用场景不同：机器学习在指纹识别、特征物体检测等领域的应用基本达到了商业化的要求。深度学习主要应用于文字识别、人脸技术、语义分析、智能监控等领域。所需数据量不同：机器学习能够适应各种数据量，特别是数据量较小的场景。

5、深度学习和机器学习的区别如下：数据量 机器学习能够适应各种数据量，特别是数据量较小的场景。在另一方面，如果数据量迅速增加，那么深度学习的效果将更为突出。下图展示了不同数据量下机器学习与深度学习的效能水平。硬件依赖性 与传统机器学习算法相反，深度学习算法在设计上高度依赖于高端设备。

6、为了帮助行业人才更快地掌握人工智能技术，中公优就业联合中科院自动化研究所专家，开设人工智能《深度学习》课程，通过深度剖析人工智能领域深度学习技术，培养人工智能核心人才。

机器学习中的统计是什么意思?

偏差在统计学中，例如在方差分析中，可能描述的是观测值与平均值的偏离程度，而在机器学习中，它更多地体现为预测结果与实际结果的偏离。残差（Residual）： 模型预测与实际测量值的差距，揭示模型的拟合精密度，是随机误差的直接体现，通过标准化处理（如z-score或studentized residual）可用于异常值检测。

统计学在机器学习中扮演着重要的角色，它为机器学习提供了理论基础和方法论。以下是统计学在机器学习中的一些主要作用：数据描述与可视化：统计学可以帮助我们更好地理解数据的分布、中心趋势和变异性。

统计学是数据分析的重要工具，可以通过分析和建模大量的数据来识别模式、趋势和关联性。这种数据驱动的分析方法在人工智能中被广泛使用，例如通过统计模型进行预测、分类和聚类等任务。机器学习：统计学是机器学习的基础理论之一，可以提供建立统计模型和估计参数的方法。

首先，我们必须明白，统计和统计建模是不一样的。统计是对数据的数学研究。除非有数据，否则无法进行统计。统计模型是数据的模型，主要用于推断数据中不同内容的关系，或创建能够预测未来值的模型。通常情况下，这两者是相辅相成的。

统计值是描述一组数据基本特征的数字量度。通常用于描述数据的中心趋势、离散程度、分布形态等特征。常见的统计值包括均值、中位数、众数、标准差、方差等。在数据分析、数据挖掘、机器学习等领域中，统计值是十分重要的概念，可以通过统计值来分析数据的规律性，为实际问题提供科学的依据。

SMO算法原理

1、该算法原理通过循环计算初始化、迭代、更新、重复完成。初始化：选择一个初始的支持向量集合，并确定目标函数中的系数。迭代：对于每个迭代步骤，选择一个外层循环变量和一个内层循环变量，使得这两个变量对应的目标函数值最小，同时满足约束条件。

2、接下来，SMO算法的精髓在于如何选择优化的两个变量。它分为两步：外层循环选择违反KKT条件最严重的样本点作为第一个变量，内层循环则寻找能使目标函数变化显著的第二个变量。外层循环：首先检查每个样本点是否满足KKT条件。选择违反条件最严重的点，若所有支持向量均满足，再考虑其他条件。

3、在实践中，SMO的执行过程是这样的：首先，通过导数计算找到局部最优解；接着，根据不等式边界调整解的范围；最后，更新相关参数，确保优化后的解满足KKT条件。值得注意的是，算法在精度允许的范围内检查KKT条件，通过Platt的伪代码[3，4]可见，如（10）和（11）所示，逻辑清晰且易于理解。

4、总的来说，SMO算法通过巧妙的策略和优化，实现了在SVM问题上的高效求解，相较于传统方法，其速度和性能提升是显著的。它就像是一个智能的导航系统，引领我们快速而准确地找到最优解。尽管SMO算法的工作原理看似简单，但其背后的智慧和创新性不容忽视。