R 教程:创建数据特征
适用于: SQL Server 2016 (13.x) 及更高版本 Azure SQL 托管实例
在此系列教程的第三部分中(共五部分),你将学习如何使用 Transact-SQL 函数根据原始数据创建特征。 然后从 SQL 存储过程调用该函数,创建包含特征值的表。
在本文中,你将:
- 修改自定义函数,用于计算行程距离
- 使用另一个自定义函数保存特征
在第一部分中,你安装了必备条件并还原了示例数据库。
在第二部分中,你查看了示例数据,并生成了一些绘图。
在第四部分中,你将加载模块,并调用必要的函数,以使用 SQL Server 存储过程来创建和训练模型。
在第五部分中,你将了解如何操作在第四部分中训练和保存的模型。
在第五部分中,你将了解如何操作在第四部分中训练和保存的模型。
关于功能设计
几轮数据探索后,已从数据收集了一些见解,现可以继续“特征工程”。 从原始数据创建有意义功能的过程是创建分析建模中的关键步骤。
在此数据集中,距离值是基于所报告的计量距离得出的,并不一定表示地理距离或实际行程距离。 因此,需要使用源 NYC Taxi 数据集中提供的坐标计算接客点和落客点之间的直接距离。 可通过使用自定义 函数中的 Haversine formula Transact-SQL (半正矢公式)实现。
使用一个自定义 T-SQL 函数 fnCalculateDistance通过半正矢公式计算距离,并使用另一个自定义 T-SQL 函数 fnEngineerFeatures创建包含所有功能的表。
总体过程如下所示:
创建执行计算的 T-SQL 函数
调用函数以生成功能数据
将功能数据保存到表
使用 fnCalculateDistance 计算行程距离
应已下载 fnCalculateDistance 函数,并作为本教程准备工作的一部分向 SQL Server 注册。 花点时间查看代码。
在 Management Studio 中,依次展开“可编程性”、“函数”及“标量值函数”。
右键单击“fnCalculateDistance”,然后选择“修改”,以在新查询窗口中打开 Transact-SQL 脚本。
CREATE FUNCTION [dbo].[fnCalculateDistance] (@Lat1 float, @Long1 float, @Lat2 float, @Long2 float) -- User-defined function that calculates the direct distance between two geographical coordinates. RETURNS float AS BEGIN DECLARE @distance decimal(28, 10) -- Convert to radians SET @Lat1 = @Lat1 / 57.2958 SET @Long1 = @Long1 / 57.2958 SET @Lat2 = @Lat2 / 57.2958 SET @Long2 = @Long2 / 57.2958 -- Calculate distance SET @distance = (SIN(@Lat1) * SIN(@Lat2)) + (COS(@Lat1) * COS(@Lat2) * COS(@Long2 - @Long1)) --Convert to miles IF @distance <> 0 BEGIN SET @distance = 3958.75 * ATAN(SQRT(1 - POWER(@distance, 2)) / @distance); END RETURN @distance END GO
该函数为标量值函数,返回预定义类型的单个数据值。
它将从行程接客位置和落客位置获取的纬度和经度值作为输入。 半正矢公式会将位置转换为弧度值,并使用这些值以英里计算这两个位置之间的直接距离。
使用 fnEngineerFeatures 生成功能
要将计算所得值添加到可用于定型模型的表,需使用另一个函数 fnEngineerFeatures。 新函数调用之前创建的 T-SQL 函数 fnCalculateDistance,以获得接客位置和落客位置之间的直接距离。
花时间检查自定义 T-SQL 函数 fnEngineerFeatures的代码,该函数应已作为本演练准备工作的一部分进行了创建。
CREATE FUNCTION [dbo].[fnEngineerFeatures] ( @passenger_count int = 0, @trip_distance float = 0, @trip_time_in_secs int = 0, @pickup_latitude float = 0, @pickup_longitude float = 0, @dropoff_latitude float = 0, @dropoff_longitude float = 0) RETURNS TABLE AS RETURN ( -- Add the SELECT statement with parameter references here SELECT @passenger_count AS passenger_count, @trip_distance AS trip_distance, @trip_time_in_secs AS trip_time_in_secs, [dbo].[fnCalculateDistance](@pickup_latitude, @pickup_longitude, @dropoff_latitude, @dropoff_longitude) AS direct_distance ) GO
此表值函数将多个列作为输入,并输出一个具有多个功能列的表。
此函数的目的是创建一个用于构建模型的新功能。
要验证此函数是否正常运行,可用其计算一些计量距离为 0、但接客位置和落客位置不同的行程的地理距离。
SELECT tipped, fare_amount, passenger_count,(trip_time_in_secs/60) as TripMinutes, trip_distance, pickup_datetime, dropoff_datetime, dbo.fnCalculateDistance(pickup_latitude, pickup_longitude, dropoff_latitude, dropoff_longitude) AS direct_distance FROM nyctaxi_sample WHERE pickup_longitude != dropoff_longitude and pickup_latitude != dropoff_latitude and trip_distance = 0 ORDER BY trip_time_in_secs DESC
可见,仪表报告的距离并不始终对应于地理距离。 这就是特征工程很重要的原因。 可以使用这些改进的数据功能来定型使用 R 的机器学习模型。
后续步骤
本文内容:
- 修改了自定义函数,用于计算行程距离
- 使用另一个自定义函数保存了特征