|
--- |
|
license: apache-2.0 |
|
--- |
|
|
|
这是MNBVC多模态语料小组的**图文通用语料**的格式展示。 |
|
|
|
字段说明： |
|
|
|
1. 文件md5: 这个字段存储文件的MD5哈希值。MD5是一种广泛使用的哈希函数，它产生一个128位（16字节）的哈希值，通常用于确保数据的完整性。在这里，它可以用来唯一标识文件，或者检查文件是否被更改。 |
|
|
|
2. 文件id: 文件的唯一标识符。这可以是一个数据库中的主键，或者任何用于唯一标识文件的系统。 |
|
|
|
3. 页码: 如果数据源是一个多页文档（如PDF文件），这个字段表示文本或图片所在的具体页码。 |
|
|
|
4. 块id: 在文档中，特定块（block）的唯一标识。这可以用于标识文本或图片所在的具体块（block）。块（block）的定义其实主要用以区分“模态”，所以对于文本来说，可以是多段的文本，也可能是单段的，取决于使用者的实际情况。 |
|
|
|
5. 文本: 存储文档中的文本内容。这可以是整个文档的文本，或者是特定段落或页面的文本。 |
|
|
|
5. 图片: 如果文档中包含图片，这个字段存储图片的数据。 |
|
|
|
6. 时间: 记录语料出现的时间（比如2000年的报纸，就填2000年xx月xx日，早于1970年出现的数据均填1970年1月1日00时00分00秒。如果时间完全无法确定，则填数据处理时间）。 |
|
|
|
7. 数据类型: 指示存储在该行中的数据类型。目前包括：“文本”、“图片”两类，如有其他类型请联系本文档作者添加枚举字段。 |
|
|
|
8. bounding box: 四点坐标（两点坐标请补全到四点），用以支持版面分析等数据。请本文档作者补充数据示例。 |
|
|
|
9. 额外信息: 存放各种额外信息，比如 在假如数据类型为图片，则存放的可以是一个json格式文本大字段(text存储，需要解析一下)。 |
|
|
|
关于图片，我们的保存方法是： |
|
|
|
```python |
|
def read_image(image_path): |
|
# 打开图像文件 |
|
with open(image_path, 'rb') as file: |
|
image = Image.open(file) |
|
# 将图像转换为二进制格式 |
|
img_byte_arr = io.BytesIO() |
|
image.save(img_byte_arr, format=image.format) |
|
img_byte_arr = img_byte_arr.getvalue() |
|
return img_byte_arr |
|
|
|
``` |
|
|
|
这个函数首先以二进制读模式打开指定路径的图像文件。然后，它使用PIL的Image.open方法来加载图像。为了将图像转换为二进制格式，我们创建了一个BytesIO对象，然后使用图像的save方法将其保存到这个内存中的字节流中。最后，使用getvalue方法获取字节流的内容，这将是图像的二进制表示。 |
|
|
|
在这段代码中，format=image.format确保图像以其原始格式保存。这样做是为了保持图像质量和格式的一致性，不管它最初是JPEG、PNG还是其他格式。 |
|
|
|
一个读取的方法： |
|
```python |
|
import pandas as pd |
|
from PIL import Image |
|
import io |
|
|
|
# 读取Parquet文件 |
|
df = pd.read_parquet('train.parquet') |
|
|
|
# 遍历DataFrame的行 |
|
for index, row in df.iterrows(): |
|
# 处理图像数据 |
|
if row['图片'] is not None: |
|
image_data = row['图片'] |
|
image = Image.open(io.BytesIO(image_data)) |
|
# 保存图像，文件名可以根据需求自定义 |
|
image.save(f'image_{index}.png') |
|
``` |
|
|
