-
Notifications
You must be signed in to change notification settings - Fork 2
/
metadata_extractor.py
466 lines (418 loc) · 17.8 KB
/
metadata_extractor.py
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
import datetime
import re
import os
import string
import sys
import warnings
import PyPDF2
import random
import win32com.client as win32
import logging
from PyPDF2 import PdfReader
class MetadataExtractor:
def __init__(self, logger=None):
self.logger = logger or logging.getLogger('metadata_extractor')
def getMetadata(self, files):
"""
Extrae metadatos de una lista de archivos.
Args:
files (List[str]): Lista de rutas de archivos.
Returns:
Tuple[List[str], List[str], List[str], List[str]]:
- fechamod: Lista de fechas de modificación como cadenas.
- tama: Lista de tamaños de archivos convertidos a unidades legibles.
- cantidadpag: Lista de conteos de páginas.
- observaciones: Lista de observaciones o comentarios.
Modules:
- datetime: Usado para manejar fechas.
- os: Usado para operaciones del sistema de archivos.
"""
fechamod = []
tama = []
cantidadpag = []
observaciones = []
for x in files:
if os.path.isfile(x):
fechamod.append(str(datetime.date.fromtimestamp(os.path.getmtime(x))))
tama.append(self.sizeUnitsConverter(os.path.getsize(x)))
cantidadpag.append(self.pageCounter(x))
observaciones.append("")
else:
fechamod.append(str(datetime.date.fromtimestamp(os.path.getmtime(x))))
tama.append("-")
cantidadpag.append("1")
list_files = os.listdir(x)
nombres, extensiones = self.separatePath(list_files)
comments = dict(
zip(extensiones, map(lambda x: extensiones.count(x), extensiones))
)
nombresExtensiones, nombres, extensionesR, numeraciones, ban = (
self.formatNames(x, list_files)
)
self.renameFiles(list_files, nombresExtensiones, x)
observaciones.append("Archivos contenidos: " + str(comments))
return fechamod, tama, cantidadpag, observaciones
def set_comments_folder(self, extensiones):
"""
Establece la carpeta de comentarios contando las ocurrencias de cada extensión.
Args:
extensiones (List): Una lista de extensiones de archivos.
Returns:
Dict: Un diccionario con las extensiones como claves y sus conteos como valores.
Ejemplo:
>>> set_comments_folder(['.txt', '.pdf', '.txt'])
{'.txt': 2, '.pdf': 1}
"""
resultado = dict(
zip(extensiones, map(lambda x: extensiones.count(x), extensiones))
)
return resultado
def separatePath(files):
"""
Separa los nombres de archivo y sus extensiones de una lista de rutas de archivos.
Args:
files (List[str]): Una lista de rutas de archivos.
Returns:
Tuple[List[str], List[str]]: Dos listas, una que contiene los nombres de archivo sin extensiones, y la otra que contiene las extensiones de archivo.
Modules:
os: Esta función utiliza el módulo os para dividir las rutas de archivo.
"""
nombres = []
extensiones = []
for x in files:
nombres.append(os.path.splitext(x)[0])
extensiones.append(os.path.splitext(x)[1])
return nombres, extensiones
# Función duplicada
def renameFiles(self, files, nombresExtensiones, ruta):
"""
Renombra una lista de archivos a nuevos nombres proporcionados en `nombresExtensiones`. Si un archivo no existe,
agrega una cadena aleatoria al nuevo nombre.
Args:
files (list): Lista de nombres de archivos a renombrar.
nombresExtensiones (list): Lista de nuevos nombres de archivos con extensiones.
ruta (str): Ruta del directorio donde se encuentran los archivos.
Modules:
os
Raises:
Exception: Si ocurre un error durante el renombrado, se captura una excepción y se imprime un mensaje.
"""
for i in range(len(files)):
fulldirct = os.path.join(ruta, files[i])
if os.path.exists(fulldirct):
os.rename(fulldirct, os.path.join(ruta, nombresExtensiones[i]))
else:
try:
# number_of_strings = 3
length_of_string = 3
os.rename(
ruta + chr(92) + files[i],
ruta
+ chr(92)
+ os.path.splitext(nombresExtensiones[i])[0]
+ "".join(
random.choice(string.ascii_letters + string.digits)
for _ in range(length_of_string)
)
+ os.path.splitext(nombresExtensiones[i])[1],
)
except Exception as e:
self.logger.exception("Excepcion presentada intentando el renombrado archivos" + str(e))
# Separar función en funciones más pequeñas
""" La solucion más efectiva es crear una funcion principal que cuente con un ciclo y envie cada nombre de archivo llamando a otra funcion que luego controle cada palabra del nombre del archivo y así gestionar hasta el detalle más mínimo """
def formatNames(self, ruta, files):
"""
Formatea los nombres de archivos y directorios en una ruta dada.
Args:
ruta (str): La ruta al directorio que contiene los archivos.
files (list): Una lista de nombres de archivos y directorios a procesar.
Returns:
tuple: Una tupla que contiene los siguientes elementos:
- nombresExtensiones (list): Lista de nombres formateados con extensiones.
- nombres (list): Lista de nombres formateados sin extensiones.
- extensiones (list): Lista de extensiones de archivos o 'Carpeta' para directorios.
- numeraciones (list): Lista de números consecutivos para cada archivo.
- ban (bool): Indicador que señala si los archivos no están en orden.
- nombres_indice (list): Lista de nombres procesados del índice.
Modules:
re, os, string
Functionality:
- Separa el nombre y la extension, validando si es carpeta
- Asigna 'Carpeta' en extension del archivo
- Aplica mayuscula a la primera letra de cada palabra
- Elimina caracteres menos a-zA-Z0-9
- Elimina los numeros primeros existentes del nombre
- Limita la cantidad de caracteres a 36
- En caso de estar vacio asigna el nombre DocumentoElectronico
- Crea consecutivos
- Agrega consecutivo al comienzo del nombre en el mismo orden de la carpeta
- Valida con isorderCorrect si los archivos estan en orden, en caso negativo ban = true
"""
# Función para procesar nombres del índice
nombres_indice = []
nombres_indice = self.procesa_cadena_indice(files)
nombres = []
extensiones = []
for x in files:
fulldirct = os.path.join(ruta, x)
if os.path.isfile(fulldirct):
nombres.append(os.path.splitext(x)[0])
extensiones.append(os.path.splitext(x)[1])
else:
nombres.append(x)
extensiones.append("Carpeta")
ban = False
for x in range(len(nombres)):
if not (nombres[x].isalnum()) or len(nombres[x]) > 40:
nombres[x] = string.capwords(nombres[x])
result = re.sub("[^a-zA-Z0-9]+", "", nombres[x])
nombres[x] = result
ban = True
else:
# Entran los archivos sin extensión
pass
cont = 0
for caracter in nombres[x]:
if caracter.isalpha():
nombres[x] = nombres[x][cont:]
break
else:
if caracter.isnumeric():
cont = cont + 1
continue
nombres[x] = nombres[x][0:36]
# Compara valores de nombre_indice y nombres para aplicar nombre a archivo
if (nombres_indice[x] == "Documento electronico") or (nombres[x] == ""):
nombres[x] = "DocumentoElectronico"
nombres[x] = str(f"{x+1:03}") + nombres[x]
nombresExtensiones = []
for x in range(len(nombres)):
if extensiones[x] != "Carpeta":
nombresExtensiones.append(str(nombres[x]) + str(extensiones[x]))
else:
nombresExtensiones.append(str(nombres[x]))
numeraciones = list(range(len(nombres) + 1))
numeraciones.pop(0)
if self.isOrderCorrect(files, nombresExtensiones):
ban = True
return (
nombresExtensiones,
nombres,
extensiones,
numeraciones,
ban,
nombres_indice,
)
def procesa_cadena_indice(self, files):
"""
Procesa una lista de nombres de archivos para extraer y formatear las palabras.
Args:
files (List[str]): Lista de nombres de archivos.
Returns:
List[str]: Lista de cadenas formateadas.
Modules:
os, re, random, string
Functionality:
- Separa el nombre de la extensión.
- Extrae las palabras utilizando expresiones regulares.
- Capitaliza la primera palabra y convierte las demás a minúscula.
- Si la cadena resultante es un número, agrega un carácter aleatorio al inicio.
- Si la cadena está vacía, asigna "Documento electronico".
"""
lista_cadena = list(files)
for i in range(len(lista_cadena)):
cadena = lista_cadena[i]
if " " in cadena:
cadena = os.path.splitext(cadena)[0] # Separa el nombre de la extensión
palabras = re.findall(
r"[A-Za-z]+", cadena
) # Aplicar expresión regular para extraer las palabras
resultado = " ".join(
palabras
) # Unir las palabras en una sola cadena con espacios entre ellas
else:
palabras = re.findall(
"[A-Z][a-z]*", cadena
) # Encuentra las palabras en la cadena que comienzan con una letra mayúscula seguida de letras minúsculas
resultado = " ".join(
palabras
) # Une las palabras con espacios para formar la cadena resultante
palabras = resultado.split() # Dividir la cadena en palabras
if palabras:
# Capitalizar la primera palabra
palabras[0] = palabras[0].capitalize()
# Convertir las demás palabras a minúscula
palabras[1:] = [palabra.lower() for palabra in palabras[1:]]
resultado = " ".join(palabras) # Unir las palabras en una cadena nuevamente
if resultado.isdigit():
caracter_aleatorio = random.choice(string.ascii_letters)
resultado = caracter_aleatorio + resultado
if resultado == "":
resultado = "Documento electronico"
if len(resultado) > 36:
resultado = resultado[:36]
lista_cadena[i] = resultado # Modificar la cadena de la lista
return lista_cadena
def isOrderCorrect(self, files, nombresExtensiones):
"""
Verifica el orden de los archivos consecutivos.
Args:
files (List): Lista de nombres de archivos.
nombresExtensiones (List): Lista de nombres de archivos esperados con extensiones.
Returns:
bool: True si el orden es incorrecto, False en caso contrario.
"""
cont = 0
for i in files:
for j in nombresExtensiones:
if i != j:
cont = cont + 1
if cont != 0:
return True
else:
return False
def sizeUnitsConverter(self, size):
"""
Convierte el tamaño del archivo de bytes a una cadena legible con las unidades apropiadas.
Args:
size (int): El tamaño del archivo en bytes.
Returns:
str: Una cadena que representa el tamaño en las unidades apropiadas (BYTES, KB, MB, GB, TB).
Notes:
- La función convierte el tamaño a la unidad más grande posible sin exceder el tamaño dado.
- Si el tamaño es 0, devuelve "0 BYTES".
"""
kb = 1024
bytes = kb / 1024
mb = kb * 1024
gb = mb * 1024
tb = gb * 1024
if size >= tb:
return "%.1f TB" % float(size / tb)
if size >= gb:
return "%.1f GB" % float(size / gb)
if size >= mb:
return "%.1f MB" % float(size / mb)
if size >= kb:
return "%.1f KB" % float(size / kb)
if size < kb:
return "%.0f BYTES" % float(size / bytes)
if size == 0:
return "0 BYTES"
def pageCounter(self, file):
"""
Cuenta el número de páginas en un archivo dado.
Parámetros:
file (str): La ruta al archivo cuyas páginas se van a contar.
Returns:
int: El número de páginas en el archivo. Devuelve 0 si el tipo de archivo no es compatible o si ocurre un error.
Módulos:
PyPDF2, warnings, os, sys
Tipos de archivos compatibles:
- PDF (.pdf)
- Documentos de Word (.docx, .doc)
- Hojas de cálculo de Excel (.xls, .xlsx, .xlsm)
- Archivos de imagen (.bmp, .jpeg, .jpg, .png, .tif, .gif)
- Archivos de video (.mp4, .wmv)
- Archivos de texto (.txt, .textclipping)
- Archivos de correo electrónico (.eml)
- Archivos HTML (.html)
"""
path, extension = os.path.splitext(file)
extension = extension.lower()
if os.path.isfile(file):
if extension == ".pdf":
try:
pdf_path = file
total_pages = count_pages_in_pdf(self, pdf_path)
return total_pages
except Exception as e:
return 0
elif extension == ".docx" or extension == ".doc":
try:
docx_path = file
total_pages = count_pages_in_docx(self, docx_path)
return total_pages
except Exception as e:
return 0
elif (
extension == ".xls"
or extension == ".xlsx"
or extension == ".xlsm"
or extension == ".bmp"
or extension == ".jpeg"
or extension == ".jpg"
or extension == ".mp4"
or extension == ".png"
or extension == ".tif"
or extension == ".textclipping"
or extension == ".wmv"
or extension == ".eml"
or extension == ".txt"
or extension == ".gif"
or extension == ".html"
):
return 1
else:
return 0
else:
return 1
def count_pages_in_pdf(self, pdf_path):
"""
Cuenta el número de páginas en un archivo PDF utilizando dos métodos diferentes.
Args:
pdf_path (str): Ruta al archivo PDF.
Returns:
int: Número de páginas en el documento. Devuelve 0 si ocurre un error.
Métodos:
- PyPDF2.PdfFileReader: Intenta contar las páginas utilizando PdfFileReader de PyPDF2.
- PyPDF2.PdfReader: Intenta contar las páginas utilizando PdfReader de PyPDF2.
Excepciones:
- Imprime un mensaje de error si falla el conteo de páginas en cualquiera de los métodos.
"""
# Primer método: PyPDF2.PdfFileReader
try:
with open(pdf_path, "rb") as f:
pdf = PyPDF2.PdfFileReader(f)
if not sys.warnoptions:
warnings.simplefilter("ignore")
return pdf.getNumPages()
except Exception as e:
self.logger.exception(f"Error al contar páginas con PyPDF2.PdfFileReader: {e}")
# Segundo método: PyPDF2.PdfReader
try:
with open(pdf_path, "rb") as file:
reader = PdfReader(file)
return len(reader.pages)
except Exception as e:
self.logger.exception(f"Error al contar páginas con PyPDF2.PdfReader: {e}")
return 0
def count_pages_in_docx(self, doc_path):
"""
Cuenta el número de páginas en un archivo .doc o .docx utilizando Microsoft Word.
Args:
doc_path (str): Ruta al archivo .doc o .docx.
Returns:
int: Número de páginas en el documento.
Raises:
Exception: Si hay un error al abrir o procesar el documento.
"""
try:
# Inicia Microsoft Word
word = win32.Dispatch("Word.Application")
word.Visible = False # No mostrar la ventana de Word
# Abre el documento .doc o .docx
doc = word.Documents.Open(doc_path)
# Recalcula las páginas
doc.Repaginate() # Asegura que las páginas se recalculen si es necesario
# Obtiene el número de páginas
pages = doc.ComputeStatistics(
2
) # 2 es el código para contar páginas (wdStatisticPages)
# Cierra el documento y Word
doc.Close(False) # False para no guardar cambios
word.Quit()
return pages
except Exception as e:
self.logger.exception(f"Error al contar páginas en el archivo {doc_path}: {e}")
return 0