有没有一种方法在蟒蛇熊猫做";"文本到列";按位置(而不是按分隔符)

Question

我使用的是国务卿的投票历史数据，但他们给我的.txt文件有700万行，每行是一个包含27个字符的字符串。前3个字符是县的代码。接下来的8个字符是注册ID，接下来的8字符是投票日期，等等。我不能在excel中对列进行文本处理，因为文件太大了。有没有一种方法可以在python panda中将这个文件分隔成列？

示例

目前我有：

0010000413707312012026R
0010000413708212012027R
0010000413711062012029
0010004535307312012026D

我想要列：

001 00004137 07312012 026 R
001 00004137 08212012 027 R
001 00004137 11062012 029
001 00045353 07312012 026 D

其中每个空格分隔一个新列。有什么建议吗？谢谢

Answer 1

我能做的最简单的事情：

import pandas as pd
sample_lines = ['0010000413707312012026R','0010000413708212012027R','0010000413711062012029','0010004535307312012026D]']
COLUMN_NAMES = ['A','B','C','D','E']
df = pd.DataFrame(columns=COLUMN_NAMES)
for line in sample_lines:
row = [line[0:3], line[3:11], line[11:19], line[19:22], line[22:23]]
df.loc[len(df)] = row
print (df)

输出：

A         B         C    D  E
0  001  00004137  07312012  026  R
1  001  00004137  08212012  027  R
2  001  00004137  11062012  029   
3  001  00045353  07312012  026  D

Answer 2

试试这个：我认为你在阅读txt文件时没有问题，简化的情况如下：

a=['0010000413707312012026R','0010000413708212012027R','0010000413711062012029','0010004535307312012026D']
area=[]
date=[]
e1=[]
e2=[]
e3=[]
#001 00004137 07312012 026 R
for i in range (0,len(a)):
area.append(a[i][0:3])
date.append(a[i][3:11])
e1.append(a[i][11:19])
e2.append(a[i][19:22])
e3.append(a[i][22:23])

all_list = pd.DataFrame(
{'area': area,
'date': date,
'e1': e1,
'e2': e2,
'e3': e3   
})
print(all_list )
#save as CSV file
all_list.to_csv('all.csv')

Answer 3

由于文件太大，最好将其读取并保存到另一个文件中，而不是读取内存中的整个文件：

with open('temp.csv') as f:
for line in f:
code = line[0:3]
registration = line[3:11]
date = line[11:19]
second_code = line[19:22]
letter = line[22:]
with open('modified.csv', 'a') as f2:
f2.write(
' '.join([code, registration, date, second_code, letter]))

您也可以从txt文件中读取到的内容，并使用extract划分数据帧列

df = pd.read_csv('temp.csv', header=None)
df
#       0
# 0 0010000413707312012026R
# 1 0010000413708212012027R
# 2 0010000413711062012029
# 3 0010004535307312012026D
df = df[df.columns[0]].str.extract('(.{3})(.{8})(.{8})(.{3})(.*)')
df
#   0   1           2           3   4
# 0 001 00004137    07312012    026 R
# 1 001 00004137    08212012    027 R
# 2 001 00004137    11062012    029 
# 3 001 00045353    07312012    026 D