pandas读取数据集的实现示例
pandas 作为 Python 数据分析的核心库,其数据读取功能(如 read_csv、read_excel、read_sql 等)支撑着从数据接入到价值产出的全流程。以下是其典型应用场景及实例:
一、数据加载与初步探索
场景:接入各类数据源并快速预览数据结构
实例:
import pandas as pd
df = pd.read_csv("sales_data.csv") # 读取CSV文件
print(df.head()) # 查看前5行数据
print(df.info()) # 获取数据类型、缺失值等元信息
二、数据清洗与预处理
场景:处理缺失值、异常值、重复数据
实例:
df = pd.read_excel("user_data.xlsx")
df.drop_duplicates(inplace=True) # 删除重复行
df.fillna({"age": df["age"].mean()}, inplace=True) # 用均值填充缺失年龄
三、结构化数据分析
场景:统计分析、聚合计算、交叉表生成
实例:
df = pd.read_sql("SELECT * FROM orders", conn) # 从数据库读取订单数据
monthly_sales = df.groupby(df["order_date"].dt.to_period("M"))["amount"].sum() # 按月汇总销售额
四、时间序列分析
场景:金融数据、传感器数据等时序数据处理
实例:
df = pd.read_csv("stock_prices.csv", parse_dates=["date"], index_col="date") # 解析日期并设为索引
df["rolling_mean"] = df["close"].rolling(window=30).mean() # 计算30天移动平均
五、机器学习数据准备
场景:特征工程、数据拆分、格式转换
实例:
df = pd.read_csv("titanic.csv")
X = df[["Pclass", "Age", "Fare"]] # 提取特征
y = df["Survived"] # 提取标签
X = pd.get_dummies(X, columns=["Pclass"]) # 独热编码分类特征
六、报表自动化与数据导出
场景:生成动态报告、数据格式化输出
实例:
df = pd.read_json("api_response.json") # 读取API返回的JSON数据
summary = df.describe().T # 生成统计摘要
summary.to_excel("analysis_report.xlsx") # 导出为Excel报表
七、多源数据集成
场景:合并不同格式/来源的数据集
实例:
df1 = pd.read_csv("sales_2023.csv")
df2 = pd.read_excel("sales_2024.xlsx")
combined_df = pd.concat([df1, df2], ignore_index=True) # 纵向合并两年销售数据
八、日志与非结构化数据处理
场景:解析半结构化日志数据
实例:
df = pd.read_csv("server_logs.csv", sep="|", header=None) # 自定义分隔符读取日志
df.columns = ["timestamp", "level", "message"] # 手动指定列名
九、教育与科研
场景:学术数据处理、论文图表数据准备
实例:
df = pd.read_csv("experimental_results.csv")
correlation = df[["temperature", "yield"]].corr() # 计算温度与产量的相关性
十、商业智能(BI)支撑
场景:为Tableau、Power BI等工具提供预处理数据
实例:
df = pd.read_parquet("large_dataset.parquet") # 高效读取大数据文件
df_filtered = df[df["region"] == "North"] # 按区域筛选数据
df_filtered.to_csv("north_region_data.csv") # 输出给BI工具
核心价值
pandas的数据读取能力不仅支持 CSV/Excel/JSON/SQL/Parquet 等20+种格式,更能无缝衔接后续的分析、建模和可视化流程,是数据工作流的“第一环”。
到此这篇关于pandas读取数据集的实现示例的文章就介绍到这了,更多相关pandas读取数据集内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
相关文章
利用django model save方法对未更改的字段依然进行了保存
这篇文章主要介绍了利用django model save方法对未更改的字段依然进行了保存,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧2020-03-03
Python自动化处理Excel、Word、PDF文档的操作大全
在日常工作中,处理 Excel 表格、PDF 文档和 Word 文档是必不可少的任务,Python 提供了强大的第三方库来帮助我们自动化这些重复性工作,极大提高效率,本文将详细介绍如何使用 openpyxl 操作 Excel,需要的朋友可以参考下2025-12-12


最新评论