inoVat技术文档

[知乎高赞回答]TCP/IP协议到底在讲什么?

  返回  

简述与机器学习相关的十大常用Python库,极简化算法编程

2021/7/20 15:40:55 浏览:

原创博文,欢迎转载,转载时请务必附上博文链接,感谢您的尊重。

前言

        初学Python的时候,我一直不太理解Python的魅力到底在哪,相比Java,它除了换一种简洁的语法,好像没什么场景是不可替代的。但是就在这几天,通过深入学习公司的机器学习基础以及生产案例,我逐渐体会到了Python备受开发人员欢迎的一项主要原因:它能够为用户提供大量可供使用的库集合。

        Python 拥有惊人数量的库,是它能够流行的原因之一,也是我最先认可的一个维度。当你正在推进大项目的时候,丰富的库可以帮助你节约时间并减少开发周期。

  • 数据计算中使用到的 NumPy 和 SciPy,以及 Web 开发的 Django;
  • 少数的库还具备高专业度,如 Scikit-Learn 适用于机器学习,而 nltk 适用于自然语言处理。

       在本文中,我们一起了解一下在机器学习方向Python常用的库,这是在最近机器学习过程中总结归纳出来的,纯属个人片面看法,欢迎各位大佬补充。


正文

        机器学习相关的【十大常用Python库】:TensorFlow,NumPy,SciPy,Scikit-Learn,Pandas,Keras,PyTorch,LightGBM,Eli5,Theano。

一、TensorFlow

        TensorFlow 是一款非常流行的开源库,它是由Google与Brain Team合作开发而成,主要用于机器学习类应用的开发。

        TensorFlow 的工作方式类似于编写大量涉及张量(tensor)操作的新的算法库。由于神经网络可以很容易地被表示为计算图形,因此它们可以使用TensorFlow来作为张量上的一系列操作予以实现。

        TensorFlow 针对速度进行了优化,它利用XLA等技术,实现了快速线性代数的运算。

【特点】:

  1. 响应式构建:使用TensorFlow,我们可以轻松地可视化图形的每一个部分。而下面将要提到的NumPy或SciKit则无此选项;
  2. 灵活:由于具有模块化的特点,因此Tensorflow在功能上具有灵活的可操作性,用户可以只选用其需要的独立部分;
  3. 易于训练:它可以通过CPU和GPU的训练方式,轻松地实现分布式计算;
  4. 并行神经网络训练:由于TensorFlow提供了流水线式的操作,因此从某种意义上说,您可以训练多个神经网络和多个GPU。这对于大规模系统上的模型来说是非常高效的;
  5. 社区活跃:由于是Google开发的,因此一大批软件工程师会持续致力于其稳定性的改进;
  6. 开源:由于是开源的,因此只要有互联网的连接,任何人都可以使用到它。

【用途】:

        大家所熟悉的Google语音搜索、以及Google相册等应用都是由TensorFlow库所开发的。虽然由TensorFlow所创建的库集合都是用C和C++编写的,但是它拥有一个复杂的Python前端。因此,您的Python代码将会被它所编译,然后再由C和C ++构建的TensorFlow分布式引擎所执行。

二、NumPy

         NumPy 被认为是Python中受欢迎的机器学习库之一。TensorFlow 和其他库在内部都会使用NumPy来执行多种操作。其中,数组接口是NumPy好用、也是重要的功能之一。

【特点】:

  • 交互式:NumPy具有强交互性、且易于被使用;
  • 数学性:通过复杂的数学,将实现变得非常简单;
  • 直观性:能够将编码、及概念变得简单易懂;
  • 开源:由于得到了广泛的使用,因此它获得了更多的开源贡献。

【用途】:

        NumPy 库接口可以被用于将图像、声波、以及其他二进制原始流,表达为N维实数数组。为了更好地将其用于机器学习,全栈工程师有必要对其深入了解

三、SciPy

        SciPy 是一个面向应用程序开发人员和工程师的机器学习库。与SciPy堆栈不同,SciPy库包含了用于优化、线性代数、积分和统计的模块。

【特点】:

        SciPy库的主要特点是使用到了NumPy来进行开发,因此它的数组充分利用了NumPy的特点。此外,SciPy提供了诸如优化、数值积分和其他特定的子模块。这些所有子模块里的所有功能都有着详细配套的文档。

 【用途】:

         由于SciPy是一个使用NumPy来解决数学函数的库,因此SciPy采用NumPy数组作为基本的数据结构,并附带了用于科学编程的各种常用任务模块。因此SciPy可以轻松地处理包括:线性代数、积分(微积分)、常微分方程求解、以及信号处理在内的各项任务。

四、Scikit-Learn

        Scikit-Learn 是一个与 NumPy 和 SciPy 相关联的Python库,被认为是处理复杂数据的Python库之一。它有很多改进版本,其中的一种是通过交叉验证的功能,以及提供多个参数指标,来改进诸如逻辑回归、以及最近邻居等多种训练的方法。

【特点】:

  1. 交叉验证:它提供许多方法来检查、监督模型对于不可见数据的准确性;
  2. 无监督学习算法:同样,它也提供包括聚类、因子分析、主成分分析、以及无监督神经网络等的大量算法;
  3. 特征提取:能够被用于从图像和文本中提取特征(例如,Bag of words);

【用途】:

        Scikit-Learn 包含了大量可用于实现标准机器学习、以及数据挖掘任务的算法。例如:降低维度、分类、回归、聚类和模型选择等。

五、Keras

        Keras 被认为是酷炫的机器学习类Python库之一。它提供了一种更容易表达神经网络的机制。同时,Keras还提供了一些可用于编译模型、处理数据集、图形可视化等方面的工具。

         Keras 在后端内部使用的是 Theano 或 TensorFlow。它可以被用在诸如CNTK之类的各种流行的神经网络上。与其他机器学习类型的库相比,由于Keras通过使用后端的基础架构来创建计算图形,因此其后续的执行操作相对较慢。另外,Keras的所有模型都是可被移植的。

【特点】:

  1. Keras在CPU和GPU上都能够顺利地运行;
  2. 支持神经网络中的所有模型,包括:完全连接、卷积、汇集、循环、嵌入等。此外,这些模型也可以被组合起来构建更为复杂的模型;
  3. 模块化特征,具有非凡的表现力、灵活性,且适合于创新类研究;
  4. 是完全基于Python的框架,开发人员可以轻松进行各种调试。

【用途】:

        如今,诸如Netflix、Uber、Yelp、Instacart、Zocdoc、以及Square等众多网站都使用到了Keras构建的交互性功能。许多初创型公司都愿意在其产品核心中用到Keras所提供的深度学习技术。

        Keras包含了许多神经网络常用的构建模块,例如:各个层、对象、激活函数、优化器、以及一系列可供处理图像与文本数据工具。此外,它还提供了许多预处理数据的集合、以及预训练的模型,其中包括:MNIST、VGG、Inception、SqueezeNet、以及ResNet等。

        在接受程度上,Keras是排名第二的,被深度学习研究人员所喜爱的Python库。一些大型科学组织,特别是CERN和NASA的研究人员,都会用到Keras。

六、PyTorch

        PyTorch 是一个大型的机器学习库,它允许开发人员通过GPU加速,来执行张量计算、创建动态计算图、并自动计算出梯度。此外,PyTorch还提供了丰富的API,可用于解决与神经网络相关的应用问题。基于Torch的 PyTorch 是一个用C语言实现的开源机器学习库。当然,它也带有Lua的包装器。

 【特点】:

  1. 混合前端:新的混合前端在eager模式下,保证了易用性和灵活性。在被无缝地转换到graph模式后,它能够在C++的运行环境中保证速度、优化和相应的功能;
  2. 分布式训练:得益于Python和C++能够访问到对等式通信的优点,它能够对集合式操作和异步执行提供原生的支持,并且能够优化研究、以及生产环境中的性能;
  3. Python优先:PyTorch并非是一种Python绑定的单体式(monolithic)C++框架。它是为深入地集成到Python中而构建的。因此它可以与各种流行的库、以及Cython和Numba等软件包一同使用;
  4. 社区活跃:由活跃的研究人员与开发人员所构成的社区,实现了一个丰富的工具与库的生态系统。该系统可以被用于扩展PyTorch、并支持从计算机视觉到强化学习等领域的开发。

 【用途】:

        PyTorch由Facebook的人工智能研究小组所开发,主要被用于自然语言处理等应用,例如,Uber的Pyro软件就将它用到了概率编程上。如今,PyTorch在许多方面都超越了TensorFlow,并且持续引起了更多的关注。

七、LightGBM

        Gradient Boosting是目前好用且流行的机器学习库之一。它通过使用重新定义的基本模型与决策树,来帮助开发人员构建新的算法。它所提供的LightGBM、XGBoost和CatBoost等特殊库,有助于解决常见的各种问题。

 【特点】:

  1. 高速的计算能力,确保了较高的生产率。
  2. 界面直观,且对用户友好。
  3. 训练的速度比其他深度学习库要快。
  4. 在计算NaN值和其他规范值时,不容易产生错误。

 【用途】:

        LightGBM 是一个梯度 boosting 框架, 使用基于学习算法的决策树. 它是分布式的, 高效的, 装逼的, 它具有以下优势: 速度和内存使用的优化、稀疏优化、准确率的优化、网络通信的优化、并行学习的优化、GPU 支持可处理大规模数据。

        由于具有高度可扩展性、能够优化和快速实现梯度增强,因此LightGBM备受机器学习开发人员,特别是全栈工程师的欢迎。

八、Eli5

        大多数情况下,机器学习模型的预测结果并不太准确,而 Eli5 内置Python的机器学习库却有助于克服这一点。它是对所有机器学习模型的可视化和调试的组合,并且能够跟踪某个算法的所有步骤。

【特点】:

        Eli5能够支持XGBoost、lighting、scikit-learn和sklearn-crfsuite等其他库,并且可以实现它们不同的任务。

【用途】:

        Eli5适用于需要在短时间内进行大量计算的数学应用程序。在与其他Python包存在依赖关系时,Eli5能够起到重要的作用。能够在各个领域实施传统的应用程序、以及更新的方法。

九、Theano

        Theano 是一个在Python中可用于计算多维数组的机器学习类框架库。Theano的工作方式类似于TensorFlow,但是其效率不及TensorFlow,因此不太适合生产环境。不过,与TensorFlow类似,Theano也可以被用于分布式或并行的环境之中。

 【特点】:

  1. 与NumPy紧密集成 - 用户能够在Theano所编译的函数中完整地使用到NumPy数组;
  2. 透明地使用GPU - 执行数据密集型计算比在CPU上更快;
  3. 高效的符号区分 - Theano通过一个或多个输入,为您的函数提供衍生工具;
  4. 速度和稳定性优化 - 即使x非常小,也能获得正确的log(1+x)的答案;
  5. 生成动态C语言代码 - 评估表达式的速度更快更高效;
  6. 广泛的单元测试和自我验证 – 能够检测和诊断模型中的多种类型错误。

【用途】:

        由于Theano表达式的实际语法,仅在抽象意义上定义、编译了后续的实际计算,因此它对于习惯了正常软件开发的初学者来说,并不太合适。不过,在被专门用于处理深度学习时,它使用到了大型神经网络算法所需的各种计算类型。

        另外,由于早在2007年就被开发出来了,因此Theano被认为是深度学习研究和开发的行业标准。

十、Pandas

        Pandas 也是一种Python类机器学习库,它提供了高级的数据结构和各种分析类工具。Pandas库重要的一个特性是:能够使用一个或两个命令,将复杂的操作与数据进行转换。Pandas有许多内置的分组方法,其中包括:数据、过滤以及时间序列功能。

 【特点】:

        Pandas能够让我们操作数据的整个过程更加容易。Pandas的功能主要包括:支持重新索引、迭代、排序、聚合、连接、以及可视化等操作

 【用途】:

        目前,Pandas库的各种发布版主要集中在错误修复、增强功能和API修改等方面。Pandas的最近一次改进,能够让它实现对于数据的分组与排序。它能够为应用选择适合的输出方法,并为执行各种自定义类型的操作提供支持。用户在使用Pandas与其他库工具一同进行数据分析时,能够获取较高的性能与灵活性。


总结

         对于python的学习,首先是对语言的理解,其次就是python库的学习,从Numpy,Pandas,Scipy,Matplotlib的基础库的使用,再到TensorFlow ,Sklearn,Theano机器学习库的使用,这也是python学习发展的主线。

        希望这篇文章能对帮你开启Python机器学习之路。


我是IT无知君,您的点赞、评论和关注,是我创作的动力源泉。
学无止境,气有浩然,让我们一起加油,天涯未远,江湖有缘再见!!

联系我们

如果您对我们的服务有兴趣,请及时和我们联系!

服务热线:18288888888
座机:18288888888
传真:
邮箱:888888@qq.com
地址:郑州市文化路红专路93号