介绍Python中的文件路径处理方法,从字符串连接、os.path.join()到Python3中处理文件路径的简单方法:pathlib

1. 通过字符串连接

1
2
3
4
5
6
import pandas as pd
parent_path = 'parent_path/'
target_path = 'target_path/'
target_file = 'target.csv'
full_path = parent_path + target_path + target_file
df = pd.read_csv(full_path)

这样的方法很简陋,跨平台可能会出现问题,所以不推荐使用。 因为在linux和Windows上路径的分隔符是不一样的。 比如下面代码在Windows上运行OK,但是在Linux或者Mac上就会报错。

1
2
3
4
5
6
import pandas as pd
parent_path = 'parent_path\\'
target_path = 'target_path\\'
target_file = 'target.csv'
full_path = parent_path + target_path + target_file
df = pd.read_csv(full_path)

2. os.path.join()

这是在Python中常用的一种路径拼接方式,支持跨平台。缺点就是语法较为冗长,对于多个路径的拼接,需要把每个路径的字符串传入os.path.join(),这样也不够直观。

1
2
3
4
5
6
7
import pandas as pd
import os 
parent_path = 'parent_path'
target_path = 'target_path'
target_file = 'target.csv'
full_path = os.path.join(parent_path,target_path,target_file)
df = pd.read_csv(full_path)

3. pathlib

Python 3.4引入了更好的路径处理方式:pathlib!支持不同的操作系统。我们只需要新建一个Path()对象,将路径或者文件传入,然后用/将它们连接即可,pathlib会帮我们做系统判断。

1
2
3
4
import pandas as pd
from pathlib import Path
full_path = Path(a)/b/c
df = pd.read_csv(full_path)

是不是特别简洁?相比于os.path.join()更加直观。 而且也不需要反复的写os.path.join()了。

更多的用法:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
from pathlib import Path

# 当前工作路径:
Path.cwd()
# PosixPath('/Users/test')

# home路径
Path.home()
# PosixPath('/Users/test')

# 列出当前目录的子目录:
p = Path('.')
[x for x in p.iterdir() if x.is_dir()]

p.iterdir() # 当路径指向一个目录时,产生该路径下的对象的路径

# 将路径绝对化
p.resolve()

# 列出当前目录下所有的`csv`文件:
list(p.glob('**/*.csv'))

# 查看路径是否存在
a = Path('data/data2/Iris.csv')
a.exists() # True
b = Path('data/data2/NoIris.csv')
b.exists() # False

# 判断是否为文件夹
a.is_dir()  # False
p.is_dir() # True
a.is_dir() # True
p.is_file() # False

# 读取文件内容
a.read_text()

# 获取文件名和后缀
print(a.name)
# prints "Iris.csv"
print(a.suffix)
# prints ".csv"

# 分离路径 
a.parts  # ('data', 'data2', 'Iris.csv')

# 修改目录权限
p.chmod(777)  

# 删除目录
path_to_remove = Path('to_remove')
path_to_remove.rmdir()  

pathlibos的一些对应关系:

例子:获取MNIST data

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
from pathlib import Path
import requests
import pickle
import gzip

DATA_PATH = Path("data")
PATH = DATA_PATH / "mnist"

PATH.mkdir(parents=True, exist_ok=True)

URL = "http://deeplearning.net/data/mnist/"
FILENAME = "mnist.pkl.gz"

if not (PATH / FILENAME).exists():
    content = requests.get(URL + FILENAME).content 
    (PATH / FILENAME).open("wb").write(content)

with gzip.open((PATH / FILENAME).as_posix(), "rb") as f:
    ((x_train, y_train), (x_valid, y_valid), _) = pickle.load(f, encoding="latin-1")

Reference