请阐述逻辑回归的基本概念,并说明其在分类任务中的具体应用方式。
考察说明
考查对逻辑回归原理及应用的理解,是否掌握其核心机制和适用场景。
回答思路
- 【回答框架 1】逻辑回归是一种广义线性模型,用于解决二分类问题,通过Sigmoid函数将线性组合映射到0到1之间,输出为属于正类的概率,通常以0.5为决策边界进行分类。
- 【回答框架 2】在分类任务中,模型学习特征与对数几率之间的线性关系,通过极大似然估计或梯度下降优化交叉熵损失,得到最优参数。与线性回归不同,逻辑回归输出概率而非连续值,适用于需输出置信度的场景。
- 【回答框架 3】逻辑回归的优点是可解释性强、计算效率高、对线性可分数据效果好,常用于信用评分、反欺诈等领域。缺点是假设特征与对数几率线性相关,对非线性问题需借助特征工程或核技巧。
- 【关键点 1】逻辑回归输出概率,通过Sigmoid函数实现非线性映射。
- 【关键点 2】优化目标是交叉熵损失,常用梯度下降求解。
- 【关键点 3】适用于线性可分或近似可分的二分类问题,可扩展至多分类。
- 【易错点 1】逻辑回归要求特征与对数几率线性,直接用于强非线性问题易欠拟合。
- 【易错点 2】决策阈值不一定为0.5,应根据业务场景调整。
- 【易错点 3】对异常值和多重共线性敏感,需进行特征预处理。