【Python系列】Python 中的文件读取

💝💝💝欢迎来到我的博客，很高兴能够在这里和您见面！希望您在这里可以感受到一份轻松愉快的氛围，不仅可以获得有趣的内容和知识，也可以畅所欲言、分享您的想法和见解。

• 推荐: ,持续学习,不断总结,共同进步,活到老学到老
• 导航
  • :全面总结 java 核心技术,jvm,并发编程 redis,kafka,Spring,微服务等
  • :常用的开发工具,IDEA,Mac,Alfred,Git,typora 等
  • :详细总结了常用数据库 mysql 技术点,以及工作中遇到的 mysql 问题等
  • :提供各种软件服务,承接各种毕业设计,毕业论文等
  • :总结好用的命令,解放双手不香吗?能用一个命令完成绝不用两个操作
  • :总结数据结构和算法,不同类型针对性训练,提升编程思维,剑指大厂

非常期待和您一起在这个小小的网络世界里共同探索、学习和成长。💝💝💝 ✨✨ 欢迎订阅本专栏 ✨✨

博客目录

在 Python 中，读取 Parquet 文件通常使用 pandas 库，它提供了一个高级的接口来处理数据。然而，有时我们需要编写自定义函数来读取特定目录下的所有 Parquet 文件。下面是一个使用 Python 标准库中的 os 模块来遍历目录并读取所有 Parquet 文件的示例。

1.示例代码解析

import os

def read_parquet_file(directory):
    """
    读取指定目录下的所有.parquet文件
    :param directory: 要搜索的目录路径
    :return: 包含所有Parquet文件名的列表
    """
    data = []
    for root, dirs, files in os.walk(directory):
        for file in files:
            # 检查文件扩展名是否为.parquet
            if file.endswith('.parquet'):
                # 构建文件的完整路径
                full_path = os.path.join(root, file)
                # 读取Parquet文件，这里假设使用pandas
                df = pd.read_parquet(full_path)
                # 将DataFrame添加到数据列表中
                data.append(df)
    return data

2.代码功能

• os.walk(directory) ：遍历给定目录 directory ，返回一个三元组 (root, dirs, files) 。其中 root 是当前正在遍历的目录的路径， dirs 是该目录下所有子目录的列表， files 是该目录下所有非目录文件的列表。
• file.endswith('.parquet') ：检查文件名是否以 .parquet 结尾，确保只处理 Parquet 文件。
• os.path.join(root, file) ：将目录路径和文件名合并成完整的文件路径。
• pd.read_parquet(full_path) ：使用 pandas 库读取 Parquet 文件，返回一个 DataFrame 对象。

3.应用场景

这个函数可以应用于多种场景，例如：

• 数据集成 ：在进行数据分析之前，可能需要从多个 Parquet 文件中提取数据。
• 数据备份 ：在备份过程中，可能需要列出所有 Parquet 文件以确保数据完整性。
• 数据迁移 ：在将数据从一个系统迁移到另一个系统时，可能需要先读取 Parquet 文件，然后转换为新系统支持的格式。

4.注意事项

• 确保在调用此函数之前已经安装了 pandas 库和 pyarrow 或 fastparquet ，因为这些是读取 Parquet 文件所需的依赖。

• 考虑到性能，如果目录中包含大量文件，可能需要考虑并行处理或使用更高效的文件系统遍历方法。

• 对于非常大的 Parquet 文件，读取整个文件可能会消耗大量内存。在这种情况下，可以考虑使用分块读取或只读取所需的列。

  

5.结论

Parquet 文件格式因其高效性和灵活性，在大数据处理中变得越来越流行。通过 Python 编写自定义函数来读取 Parquet 文件，可以为数据科学家和工程师提供更多的控制和定制能力。随着技术的发展，我们期待看到更多创新的方法来处理和分析这些数据。

觉得有用的话点个赞 👍🏻 呗。

❤️❤️❤️本人水平有限，如有纰漏，欢迎各位大佬评论批评指正！😄😄😄

💘💘💘如果觉得这篇文对你有帮助的话，也请给个点赞、收藏下吧，非常感谢!👍 👍 👍

🔥🔥🔥Stay Hungry Stay Foolish 道阻且长,行则将至,让我们一起加油吧！🌙🌙🌙