AutoML问题构成
来源:成都达内教育IT培训机构时间:2021/9/14 10:29:50
AutoML问题构成
AutoML的主要问题可以由三部分组成:特征工程、模型选择和算法选择。
特色工程
特色工程在机器学习中发挥着重要作用。AutoML自动化特征工程的目标是自动探索和构造相关特征,使模型具有较佳性能。此外,还包括特征选择、特征维度降低、特征生成和特征编码等特定特征增强方法。目前,这些步骤还没有达到自动化阶段。
这些步骤也伴随着一定的参数搜索空间。是方法自带的搜索空间,比如PCA自带的降维参数需要调整。二是特征生成时搜索空间会扩大。
选择模型
模型选择包括两个步骤:选择模型并设置其参数。相应地,AutoML的目的是自动选择较合适的模型,并设置其较佳参数。
算法选择
AutoML的目的是oML的目的是自动选择优化算法,以达到效率和精度的平衡。常用的优化方法有SGD、L-BFGS、GD等。使用哪种优化算法和相应的优化算法配置也需要一组搜索空间。
从全局来看
综合上述三个关键步骤,一个完整的AutoML过程可分为两大类:一类是将上述三个步骤整合为一个完整的pipeline;另一个是NetworkArchitectureSearch,它可以自动学习较好的网络结构。在学习过程中,优化了以上三个问题。
评价策略
基本评价策略:
AutoML在设计评价策略时主要回答三个问题:
·这个策略能评价吗?
·这种策略能提供准确的评价吗?
·这个策略需要什么样的反馈?
基本评价策略包括:
1.直接评价:直接评价目标数据,这是较常用的策略;
2.采样:当数据样本量很大时,对一些样本进行评价;
3.EarlyStop:当遇到一些极端情况使网络表现不佳时,可考虑进行earlyStop;
4.参数重用:将之前学过的参数重用到新任务中,两种任务配置相似时可以使用;
5.共轭评价:对于一些可量化的配置,可以采用共轭评价法。
评价策略:
评价策略主要包括两种:Meta-learning和TransferLearning。
1.Meta-learning法:从以往的学习经验中提取基本参数和结构配置;
2.Transferlearning法:从以前的学习经验中提取一些可重用的知识。
尊重原创文章,转载请注明出处与链接:http://www.peixun360.com/3857/news/409954/违者必究!
以上就是成都达内教育IT培训机构 小编为您整理 AutoML问题构成的全部内容。