Commit 17645527 authored by kernel.h@qq.com's avatar kernel.h@qq.com

重构AbsReaderWriter

parent c3b8f6d7
...@@ -5,18 +5,30 @@ class AbsReaderWriter(ABC): ...@@ -5,18 +5,30 @@ class AbsReaderWriter(ABC):
""" """
同时支持二进制和文本读写的抽象类 同时支持二进制和文本读写的抽象类
""" """
MODE_TXT = "text"
MODE_BIN = "binary"
def __init__(self): def __init__(self, parent_path):
# 初始化代码可以在这里添加,如果需要的话 # 初始化代码可以在这里添加,如果需要的话
pass self.parent_path = parent_path # 对于本地目录是父目录,对于s3是会写到这个apth下。
@abstractmethod @abstractmethod
def read(self, path: str, mode="text"): def read(self, path: str, mode="text"):
pass """
无论对于本地还是s3的路径,检查如果path是绝对路径,那么就不再 拼接parent_path, 如果是相对路径就拼接parent_path
"""
raise NotImplementedError
@abstractmethod @abstractmethod
def write(self, content: str, path: str, mode="text"): def write(self, content: str, path: str, mode=MODE_TXT):
pass """
无论对于本地还是s3的路径,检查如果path是绝对路径,那么就不再 拼接parent_path, 如果是相对路径就拼接parent_path
"""
raise NotImplementedError
@abstractmethod
def read_jsonl(self, path: str, byte_start=0, byte_end=None, encoding='utf-8'):
"""
无论对于本地还是s3的路径,检查如果path是绝对路径,那么就不再 拼接parent_path, 如果是相对路径就拼接parent_path
"""
raise NotImplementedError
Markdown is supported
0% or
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment