脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → Pandas JSON

Pandas JSON的处理使用

 更新时间：2025年02月13日 09:28:14   作者：游王子og  
Pandas提供了强大的方法来处理JSON格式的数据,本文就来介绍一下Pandas JSON的处理使用,具有一定的参考价值,感兴趣的可以了解一下

JSON（JavaScript Object Notation，JavaScript 对象表示法），是存储和交换文本信息的语法，类似 XML。JSON 比 XML 更小、更快，更易解析。Pandas 提供了强大的方法来处理 JSON 格式的数据，支持从 JSON 文件或字符串中读取数据并将其转换为 DataFrame，以及将 DataFrame 转换回 JSON 格式。

操作方法说明
从 JSON 文件/字符串读取数据pd.read_json()从 JSON 数据中读取并加载为 DataFrame
将 DataFrame 转换为 JSONDataFrame.to_json()将 DataFrame 转换为 JSON 格式的数据，可以指定结构化方式
支持 JSON 结构化方式orient 参数支持多种结构化方式，如 split、records、columns

Pandas 可以很方便的处理 JSON 数据，本文以 sites.json 为例，内容如下：

[
  {
    "id": "A001",
    "name": "bing",
    "url": "www.bing.com",
    "likes": 61
  },
  {
    "id": "A002",
    "name": "Google",
    "url": "www.google.com",
    "likes": 124
  },
  {
    "id": "A003",
    "name": "淘宝",
    "url": "www.taobao.com",
    "likes": 45
  }
]

1 从 JSON 文件/字符串加载数据

1.1 pd.read_json() - 读取 JSON 数据

read_json() 用于从 JSON 格式的数据中读取并加载为一个 DataFrame。它支持从 JSON 文件、JSON 字符串或 JSON 网址中加载数据。

df = pd.read_json(
    path_or_buffer,      # JSON 文件路径、JSON 字符串或 URL
    orient=None,         # JSON 数据的结构方式，默认是 'columns'
    dtype=None,          # 强制指定列的数据类型
    convert_axes=True,   # 是否转换行列索引
    convert_dates=True,  # 是否将日期解析为日期类型
    keep_default_na=True # 是否保留默认的缺失值标记
)
参数说明默认值
path_or_bufferJSON 文件的路径、JSON 字符串或 URL必需参数
orient定义 JSON 数据的格式方式。常见值有 split、records、index、columns、values。None（根据文件自动推断）
dtype强制指定列的数据类型None
convert_axes是否将轴转换为合适的数据类型True
convert_dates是否将日期解析为日期类型True
keep_default_na是否保留默认的缺失值标记（如 NaN）True

常见的 orient 参数选项:

orient 值JSON 格式示例描述
split{"index":["a","b"],"columns":["A","B"],"data":[[1,2],[3,4]]}使用键 index、columns 和 data 结构
records[{"A":1,"B":2},{"A":3,"B":4}]每个记录是一个字典，表示一行数据
index{"a":{"A":1,"B":2},"b":{"A":3,"B":4}}使用索引为键，值为字典的方式
columns{"A":{"a":1,"b":3},"B":{"a":2,"b":4}}使用列名为键，值为字典的方式
values[[1,2],[3,4]]只返回数据，不包括索引和列名

从 JSON 文件加载数据，to_string() 用于返回 DataFrame 类型的数据，我们也可以直接处理 JSON 字符串。

import pandas as pd

df = pd.read_json('sites.json')

print(df.to_string())

JSON 对象与 Python 字典具有相同的格式，所以我们可以直接将 Python 字典转化为 DataFrame 数据：

import pandas as pd

# 字典格式的 JSON
s = {
    "col1": {"row1": 1, "row2": 2, "row3": 3},
    "col2": {"row1": "x", "row2": "y", "row3": "z"}
}

# 读取 JSON 转为 DataFrame
df = pd.DataFrame(s)
print(df)

从 JSON 字符串加载数据：

from io import StringIO

import pandas as pd

# JSON 字符串
json_data = '''
[
  {"Name": "Alice", "Age": 25, "City": "New York"},
  {"Name": "Bob", "Age": 30, "City": "Los Angeles"},
  {"Name": "Charlie", "Age": 35, "City": "Chicago"}
]
'''

# 从 JSON 字符串读取数据
df = pd.read_json(StringIO(json_data))

print(df)

1.2 内嵌的 JSON 数据

假设有一组内嵌的 JSON 数据文件 nested_list.json ：

{
    "school_name": "ABC primary school",
    "class": "Year 1",
    "students": [
    {
        "id": "A001",
        "name": "Tom",
        "math": 60,
        "physics": 66,
        "chemistry": 61
    },
    {
        "id": "A002",
        "name": "James",
        "math": 89,
        "physics": 76,
        "chemistry": 51
    },
    {
        "id": "A003",
        "name": "Jenny",
        "math": 79,
        "physics": 90,
        "chemistry": 78
    }]
}

使用以下代码格式化完整内容：

import pandas as pd

df = pd.read_json('nested_list.json')

print(df)

这时我们就需要使用到 json_normalize() 方法将内嵌的数据完整的解析出来：

import pandas as pd
import json

# 使用 Python JSON 模块载入数据
with open('nested_list.json', 'r') as f:
    data = json.loads(f.read())

# 展平数据
df_nested_list = pd.json_normalize(data, record_path=['students'])
print(df_nested_list)

data = json.loads(f.read()) 使用 Python JSON 模块载入数据。json_normalize() 使用了参数 record_path 并设置为 ['students'] 用于展开内嵌的 JSON 数据 students。显示结果还没有包含 school_name 和 class 元素，如果需要展示出来可以使用 meta 参数来显示这些元数据：

import pandas as pd
import json

# 使用 Python JSON 模块载入数据
with open('nested_list.json', 'r') as f:
    data = json.loads(f.read())

# 展平数据
df_nested_list = pd.json_normalize(
    data,
    record_path=['students'],
    meta=['school_name', 'class']
)
print(df_nested_list)

接下来尝试读取更复杂的 JSON 数据，该数据嵌套了列表和字典，数据文件 nested_mix.json 如下：

{
  "school_name": "local primary school",
  "class": "Year 1",
  "info": {
    "president": "John Kasich",
    "address": "ABC road, London, UK",
    "contacts": {
      "email": "admin@e.com",
      "tel": "123456789"
    }
  },
  "students": [
    {
      "id": "A001",
      "name": "Tom",
      "math": 60,
      "physics": 66,
      "chemistry": 61
    },
    {
      "id": "A002",
      "name": "James",
      "math": 89,
      "physics": 76,
      "chemistry": 51
    },
    {
      "id": "A003",
      "name": "Jenny",
      "math": 79,
      "physics": 90,
      "chemistry": 78
    }
  ]
}

nested_mix.json 文件转换为 DataFrame：

import pandas as pd
import json

# 使用 Python JSON 模块载入数据
with open('nested_mix.json', 'r') as f:
    data = json.loads(f.read())

df = pd.json_normalize(
    data,
    record_path=['students'],
    meta=[
        'class',
        ['info', 'president'],
        ['info', 'contacts', 'tel']
    ]
)

print(df)

1.3 读取内嵌数据中的一组数据

以下是实例文件 nested_deep.json，我们只读取内嵌中的 math 字段：

{
  "school_name": "local primary school",
  "class": "Year 1",
  "students": [
    {
      "id": "A001",
      "name": "Tom",
      "grade": {
        "math": 60,
        "physics": 66,
        "chemistry": 61
      }
    },
    {
      "id": "A002",
      "name": "James",
      "grade": {
        "math": 89,
        "physics": 76,
        "chemistry": 51
      }
    },
    {
      "id": "A003",
      "name": "Jenny",
      "grade": {
        "math": 79,
        "physics": 90,
        "chemistry": 78
      }
    }
  ]
}

这里我们需要使用到 glom 模块来处理数据套嵌，glom 模块允许我们使用 . 来访问内嵌对象的属性。第一次使用我们需要安装 glom：

pip3 install glom
import pandas as pd
from glom import glom

df = pd.read_json('nested_deep.json')

data = df['students'].apply(lambda row: glom(row, 'grade.math'))
print(data)

2 将 DataFrame 转换为 JSON

2.1 DataFrame.to_json() - 将 DataFrame 转换为 JSON 数据

to_json() 方法用于将 DataFrame 转换为 JSON 格式的数据，可以指定 JSON 的结构化方式。语法格式：

df.to_json(
    path_or_buffer=None,    # 输出的文件路径或文件对象，如果是 None 则返回 JSON 字符串
    orient=None,            # JSON 格式方式，支持 'split', 'records', 'index', 'columns', 'values'
    date_format=None,       # 日期格式，支持 'epoch', 'iso'
    default_handler=None,   # 自定义非标准类型的处理函数
    lines=False,            # 是否将每行数据作为一行（适用于 'records' 或 'split'）
    encoding='utf-8'        # 编码格式
)
参数说明默认值
path_or_buffer输出的文件路径或文件对象，若为 None，则返回 JSON 字符串None
orient指定 JSON 格式结构，支持 split、records、index、columns、valuesNone（默认是 columns）
date_format日期格式，支持 'epoch' 或 'iso' 格式None
default_handler自定义处理非标准类型（如 datetime 等）的处理函数None
lines是否将每行数据作为一行输出（适用于 records 或 split）False
encoding输出文件的编码格式'utf-8'
import pandas as pd

# 创建 DataFrame
df = pd.DataFrame({
    'Name': ['Alice', 'Bob', 'Charlie'],
    'Age': [25, 30, 35],
    'City': ['New York', 'Los Angeles', 'Chicago']
})

# 将 DataFrame 转换为 JSON 字符串
json_str = df.to_json()

print(json_str)

将 DataFrame 转换为 JSON 文件（指定 orient='records'）：

import pandas as pd

# 创建 DataFrame
df = pd.DataFrame({
    'Name': ['Alice', 'Bob', 'Charlie'],
    'Age': [25, 30, 35],
    'City': ['New York', 'Los Angeles', 'Chicago']
})

# 将 DataFrame 转换为 JSON 文件，指定 orient='records'
df.to_json('data.json', orient='records', lines=True)

将 DataFrame 转换为 JSON 并指定日期格式：

import pandas as pd

# 创建 DataFrame，包含日期数据
df = pd.DataFrame({
    'Name': ['Alice', 'Bob', 'Charlie'],
    'Date': pd.to_datetime(['2021-01-01', '2022-02-01', '2023-03-01']),
    'Age': [25, 30, 35]
})

# 将 DataFrame 转换为 JSON，并指定日期格式为 'iso'
json_str = df.to_json(date_format='iso')

print(json_str)

到此这篇关于Pandas JSON的处理使用的文章就介绍到这了,更多相关Pandas JSON内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

您可能感兴趣的文章:

相关文章

  • 如何修改numpy array的数据类型

    如何修改numpy array的数据类型

    这篇文章主要介绍了如何修改numpy array的数据类型，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
    2022-05-05
  • PyCharm导入python项目并配置虚拟环境的教程详解

    PyCharm导入python项目并配置虚拟环境的教程详解

    这篇文章主要介绍了Pycharm导入python项目并配置虚拟环境的教程,本文图文并茂给大家介绍的非常详细，具有一定的参考借鉴价值，需要的朋友可以参考下
    2019-10-10
  • 使用Python Socket实现搭建HTTP协议

    使用Python Socket实现搭建HTTP协议

    网络编程中,了解底层的通信机制是极其重要的,本文将带领大家深入探索如何使用Python的socket库来实现一个简单的HTTP协议,感兴趣的可以了解下
    2024-02-02
  • Python hashlib模块加密过程解析

    Python hashlib模块加密过程解析

    这篇文章主要介绍了Python hashlib模块加密过程解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-11-11
  • Python3爬虫mitmproxy的安装步骤

    Python3爬虫mitmproxy的安装步骤

    在本篇文章里小编给大家整理的是关于Python3爬虫mitmproxy的安装步骤，需要的朋友们可以学习下。
    2020-07-07
  • shelve 用来持久化任意的Python对象实例代码

    shelve 用来持久化任意的Python对象实例代码

    这篇文章主要介绍了shelve 用来持久化任意的Python对象实例代码的相关资料,需要的朋友可以参考下
    2016-10-10
  • 简单介绍Python的第三方库yaml

    简单介绍Python的第三方库yaml

    今天给大家带来的是关于Python的相关知识,文章围绕着Python的第三方库yaml展开,文中有非常详细的介绍及代码示例,需要的朋友可以参考下
    2021-06-06
  • Python pickle模块用法实例

    Python pickle模块用法实例

    这篇文章主要介绍了Python pickle模块用法实例,python的pickle模块实现了基本的数据序列和反序列化,需要的朋友可以参考下
    2015-04-04
  • Python实现将n个点均匀地分布在球面上的方法

    Python实现将n个点均匀地分布在球面上的方法

    这篇文章主要介绍了Python实现将n个点均匀地分布在球面上的方法,涉及Python绘图的技巧与相关数学函数的调用,具有一定参考借鉴价值,需要的朋友可以参考下
    2015-03-03
  • Python实现日志实时监测的示例详解

    Python实现日志实时监测的示例详解

    观察者模式：是一种行为型设计模式。主要关注的是对象的责任，允许你定义一种订阅机制，可在对象事件发生时通知多个"观察"该对象的其他对象。本文将利用观察者模式实现日志实时监测，需要的可以参考一下
    2022-04-04

最新评论