我有一个带有FileField
的模型,其中包含用户上传的文件。由于我想节省空间,我希望避免重复。
我想要实现的:
- 计算上传的文件md5校验和
- 根据md5sum 存储文件名为的文件
- 如果同名文件已经存在(新文件是副本), 丢弃上传的文件,使用现有文件代替
1和2已经工作了,但是我怎么能忘记上传的副本而使用现有的文件呢?
请注意,我希望保留现有文件,而不是覆盖它(主要是为了保持修改时间相同-更好用于备份)。
指出:
- 我使用的是Django 1.5
- 上传处理程序为
django.core.files.uploadhandler.TemporaryFileUploadHandler
代码:
def media_file_name(instance, filename):
h = instance.md5sum
basename, ext = os.path.splitext(filename)
return os.path.join('mediafiles', h[0:1], h[1:2], h + ext.lower())
class Media(models.Model):
orig_file = models.FileField(upload_to=media_file_name)
md5sum = models.CharField(max_length=36)
...
def save(self, *args, **kwargs):
if not self.pk: # file is new
md5 = hashlib.md5()
for chunk in self.orig_file.chunks():
md5.update(chunk)
self.md5sum = md5.hexdigest()
super(Media, self).save(*args, **kwargs)
任何帮助都是感激的!
感谢alTus的回答,我能够弄清楚编写自定义存储类是关键,而且比预期的要容易。
- 我只是省略调用超类
_save
方法来编写文件,如果它已经存在,我只是返回名称。 - 我覆盖
get_available_name
,以避免获得数字追加到文件名,如果同名的文件已经存在
我不知道这是不是正确的方式,但它目前运行良好。
希望这是有用的!
完整的示例代码:
import hashlib
import os
from django.core.files.storage import FileSystemStorage
from django.db import models
class MediaFileSystemStorage(FileSystemStorage):
def get_available_name(self, name, max_length=None):
if max_length and len(name) > max_length:
raise(Exception("name's length is greater than max_length"))
return name
def _save(self, name, content):
if self.exists(name):
# if the file exists, do not call the superclasses _save method
return name
# if the file is new, DO call it
return super(MediaFileSystemStorage, self)._save(name, content)
def media_file_name(instance, filename):
h = instance.md5sum
basename, ext = os.path.splitext(filename)
return os.path.join('mediafiles', h[0:1], h[1:2], h + ext.lower())
class Media(models.Model):
# use the custom storage class fo the FileField
orig_file = models.FileField(
upload_to=media_file_name, storage=MediaFileSystemStorage())
md5sum = models.CharField(max_length=36)
# ...
def save(self, *args, **kwargs):
if not self.pk: # file is new
md5 = hashlib.md5()
for chunk in self.orig_file.chunks():
md5.update(chunk)
self.md5sum = md5.hexdigest()
super(Media, self).save(*args, **kwargs)
恐怕你不能轻易地使用保存/删除方法来实现这一点,因为文件的处理非常具体。
但是你可以这样试试。
首先,我的简单md5文件哈希函数:def md5_for_file(chunks):
md5 = hashlib.md5()
for data in chunks:
md5.update(data)
return md5.hexdigest()
下一个simple_upload_to
是类似于您的media_file_name函数。你应该这样使用它:
def simple_upload_to(field_name, path='files'):
def upload_to(instance, filename):
name = md5_for_file(getattr(instance, field_name).chunks())
dot_pos = filename.rfind('.')
ext = filename[dot_pos:][:10].lower() if dot_pos > -1 else '.unknown'
name += ext
return os.path.join(path, name[:2], name)
return upload_to
class Media(models.Model):
# see info about storage below
orig_file = models.FileField(upload_to=simple_upload_to('orig_file'), storage=MyCustomStorage())
当然,这只是一个例子,路径生成逻辑可以是多种多样的。
和最重要的部分:
from django.core.files.storage import FileSystemStorage
class MyCustomStorage(FileSystemStorage):
def get_available_name(self, name):
return name
def _save(self, name, content):
if self.exists(name):
self.delete(name)
return super(MyCustomStorage, self)._save(name, content)
可以看到,这个自定义存储在保存之前删除文件,然后保存同名的新文件。因此,如果不删除(并因此更新)文件很重要,您可以在这里实现您的逻辑。
更多关于存储的信息,可以在这里找到:https://docs.djangoproject.com/en/1.5/ref/files/storage/
我有同样的问题,发现了这个问题。由于这种情况并不罕见,我在网上搜索了一下,找到了以下Python包,它似乎可以完全满足您的需求:
https://pypi.python.org/pypi/django-hashedfilenamestorage如果SHA1哈希是没有问题的,我认为拉请求添加MD5哈希支持将是一个好主意。
数据从模板->表单->视图->数据库(模型)。在最早的步骤就停止复制是有意义的。在本例中,form .py.
# scripts.py
import hashlib
from .models import *
def generate_sha(file):
sha = hashlib.sha1()
file.seek(0)
while True:
buf = file.read(104857600)
if not buf:
break
sha.update(buf)
sha1 = sha.hexdigest()
file.seek(0)
return sha1
# models.py
class images(models.Model):
label = models.CharField(max_length=21, blank=False, null=False)
image = models.ImageField(upload_to='images/')
image_sha1 = models.CharField(max_length=40, blank=False, null=False)
create_time = models.DateTimeField(auto_now=True)
# forms.py
class imageForm(forms.Form):
Label = forms.CharField(max_length=21, required=True)
Image = forms.ImageField(required=True)
def clean(self):
cleaned_data = super(imageForm, self).clean()
Label = cleaned_data.get('Label')
Image = cleaned_data.get('Image')
sha1 = generate_sha(Image)
if images.objects.filter(image_sha1=sha1).exists():
raise forms.ValidationError('This already exists')
if not Label:
raise forms.ValidationError('No Label')
if not Image:
raise forms.ValidationError('No Image')
# views.py
from .scripts import *
from .models import *
from .forms import *
def image(request):
if request.method == 'POST':
form = imageForm(request.POST, request.FILES)
if form.is_valid():
photo = images (
payee=request.user,
image=request.FILES['Image'],
image_sha1=generate_sha(request.FILES['Image'],),
label=form.cleaned_data.get('Label'),
)
photo.save()
return render(request, 'stars/image_form.html', {'form' : form})
else:
form = imageForm()
context = {'form': form,}
return render(request, 'stars/image_form.html', context)
# image_form.html
{% extends "base.html" %}
{% load static %}
{% load staticfiles %}
{% block content %}
<div class="card mx-auto shadow p-3 mb-5 bg-white rounded text-left" style="max-width: 50rem;">
<div class="container">
<form action="{% url 'wallet' %}" method="post" enctype="multipart/form-data">
{% csrf_token %}
{{ form }}
<input type="submit" value="Upload" class="btn btn-outlined-primary">
</form>
{% if form.errors %}
{% for field in form %}
{% for error in field.errors %}
<p> {{ error }} </p>
{% endfor %}
{% endfor %}
{% endif %}
</div>
</div>
{% endblock content %}
参考:http://josephmosby.com/2015/05/13/preventing-file-dupes-in-django.html
这个答案帮助我解决了如果上传的文件已经存在,我想引发异常的问题。如果上传位置已经存在同名的文件,此版本将引发异常。
from django.core.files.storage import FileSystemStorage
class FailOnDuplicateFileSystemStorage(FileSystemStorage):
def get_available_name(self, name):
return name
def _save(self, name, content):
if self.exists(name):
raise ValidationError('File already exists: %s' % name)
return super(
FailOnDuplicateFileSystemStorage, self)._save(name, content)