Text Mining

Teoría

La minería de texto (TM) es el proceso de extraer información útil, patrones o conocimiento de textos no estructurados.

Consta de tres etapas:
1. Obtener datos: “El Reconocimiento Óptico de Caracteres (OCR) es una tecnología que permite convertir imágenes de texto en texto editable. También es conocido como extracción de texto de imágenes.
2. Explorar datos: Representación gráfica o visual de los datos para su interpretación. Los métodos más comunes son el Ánalisis de sentimientos, la nube de palabras y el Topic Modeling.
3. Análisis predictivo: son las técnicas y modelos estadísticos para predecir resultados futuros. Los modelos más usados son el Random Forest, redes neuronales y regresiones.

Instalar paquetes y llamar librerías

#install.packages("tidyverse") #Manipulación de datos
library(tidyverse)

## ── Attaching core tidyverse packages ──────────────────────── tidyverse 2.0.0 ──
## ✔ dplyr     1.1.4     ✔ readr     2.1.5
## ✔ forcats   1.0.0     ✔ stringr   1.5.1
## ✔ ggplot2   3.5.1     ✔ tibble    3.2.1
## ✔ lubridate 1.9.4     ✔ tidyr     1.3.1
## ✔ purrr     1.0.4     
## ── Conflicts ────────────────────────────────────────── tidyverse_conflicts() ──
## ✖ dplyr::filter() masks stats::filter()
## ✖ dplyr::lag()    masks stats::lag()
## ℹ Use the conflicted package (<http://conflicted.r-lib.org/>) to force all conflicts to become errors

#install.packages("tesseract") # OCR
library (tesseract)
#install.packages("magick") # PNG
library(magick)

## Linking to ImageMagick 6.9.12.98
## Enabled features: cairo, freetype, fftw, ghostscript, heic, lcms, pango, raw, rsvg, webp
## Disabled features: fontconfig, x11

#install.packages("officer") # Office Word
library(officer)
#install.packages("pdftools") # PDF
library ("pdftools") 

## Using poppler version 23.08.0

#install.packages("purrr") #Para la función map para aplicar una función a cada elemento de un vector.
library(purrr)

Etapa 1. Obtener datos mediante OCR

De imagen PNG a texto en word

imagen1 <- image_read("C:\\Users\\lenovo\\Downloads\\imagen1.PNG")
texto1 <- ocr(imagen1)
texto1

## [1] "Linear regression with one variable x is also known as univariate linear regression\nor simple linear regression. Simple linear regression is used to predict a single\noutput from a single input. This is an example of supervised learning, which means\nthat the data is labeled, i.e., the output values are known in the training data. Let us\nfit a line through the data using simple linear regression as shown in Fig. 4.1.\n"

doc1 <- read_docx() #Crea un documento de word en blanco
doc1 <- doc1 %>% body_add_par(texto1) #Pega el texto en el doc1
print(doc1, target = "texto1.docx") # Guarda el dócil en la compu

De imagen PNG en español a texto en word

imagen2 <- image_read("C:\\Users\\lenovo\\Downloads\\imagen2.PNG")
tesseract_download("spa")

## Training data already exists. Overwriting C:\Users\lenovo\AppData\Local\tesseract5\tesseract5\tessdata/spa.traineddata

## [1] "C:\\Users\\lenovo\\AppData\\Local\\tesseract5\\tesseract5\\tessdata/spa.traineddata"

texto2 <- ocr(imagen2, engine = tesseract("spa"))
texto2

## [1] "Un importante, y quizá controversial, asunto político es el que se refiere al efecto del salario mínimo sobre\nlas tasas de desempleo en diversos grupos de trabajadores. Aunque este problema puede ser estudiado con\ndiversos tipos de datos (corte transversal, series de tiempo o datos de panel), suelen usarse las series de\ntiempo para observar los efectos agregados. En la tabla 1.3 se presenta un ejemplo de una base de datos\nde series de tiempo sobre tasas de desempleo y salarios mínimos.\n"

doc2 <- read_docx() #Crea un documento de word en blanco
doc2 <- doc2 %>% body_add_par(texto1) #Pega el texto en el doc1
print(doc2, target = "texto2.docx") # Guarda el dócil en la compu

Actividad 1. Eso

#De pdf a texto en word
pdf_eso <- pdf_convert("C:\\Users\\lenovo\\Downloads\\eso.pdf", dpi=600) %>% map(ocr)

## Converting page 1 to eso_1.png... done!
## Converting page 2 to eso_2.png... done!

# Repetir pasos previos para convertir imágenes a texto a word.

Actividad de Imagen a word

imageneso1 <- image_read("C:\\Users\\lenovo\\Documents\\eso_1.png")
textoeso1 <- ocr(imageneso1)
textoeso1

## [1] "I. DESPUES DE LA INUNDACION (1957)\nEl terror, que no terminaria por otros veintiocho anos —si es que termino alguna vez—,\ncomenzo, hasta donde se 0 puedo contar, con un barco hecho de una hoja de un diario\nque flotaba a lo largo del arroyo de una calle anegada de lluvia.\nEl barquito cabeceo, se ladeo, volvio a enderezarse en medio de traicioneros remolinos y\ncontinuo su marcha por Witcham Street hacia el semaforo que marcaba la interseccion\nde esta y Jackson. Las tres lentes verticales a los lados del semaforo estaban a oscuras y\ntambien todas las casas, en aquella tarde de otono de 1957. Llovia sin cesar desde hacia\nya una semana y dos dias atras habian llegado tambien los vientos. Desde entonces, la\nmayor parte de Derry habia quedado sin corriente electrica y aun segula asi.\nUn chiquillo de impermeable amarillo y botas rojas seguia alegremente al barco de\npapel. La lluvia no habia cesado, pero al fin estaba amainando. Golpeteaba sobre la\ncapucha amarilla del impermeable sonando a los oidos del nino como lluvia sobre el\ntejado de un cobertizo.. un sonido reconfortante, casi acogedor. El nino del impermeable\namarillo era George Denbrough. Tenia seis anos. William, su hermano, a quien casi todos\nlos ninos de la escuela primaria de Derry (y hasta los maestros, aunque Jamas habrian\nusado el apodo frente a el) conocian como Bill el Tartaja, estaba en Su casa pasando los\nrestos de una gripe bastante seria. En ese otono de 1957, ocho meses antes de que\ncomenzasen realmente los horrores y veintiocho anos antes del desenlace final, Bill e/\nTartaja tenia diez anos.\nEra Bill quien habia hecho el barquito junto al cual corria George. Lo habia hecho sentado\nen su cama, con la espalda apoyada en un monton de almohadas, mientras la madre\ntocaba Para Elisa en el piano de la sala y la lluvia barria incansablemente la ventana de su\ndormitorio.\nA un tercio de manzana, camino de la interseccion y del semaforo apagado, Witcham\nStreet estaba cerrada al trafico por varios toneles de brea y cuatro caballetes color\nnaranja. En cada uno de esos caballetes se lela: AYUNTAMIENTO DE DERRY -\nDEPARTAMENTO DE OBRAS PUBLICAS. Tras ellos, la Lluvia habia desbordado\nalcantarillas atascadas con ramas, piedras y cumulos de pegajosas hojas otonales. El\nagua habia ido picando el pavimento al principio, arrancado luego grandes trozos\ncodiciosos; todo esto, hacia el tercer dia de las lluvias. Hacia el mediodia de la cuarta\nJornada, grandes trozos de pavimento eran arrastrados por la interseccion de Jackson y\nWitcham como tempanos de hielo en miniatura. Muchos habitantes de Derry habian\nempezado por entonces a hacer chistes nerviosos sobre el Arca. El Departamento de\nObras Publicas se las habia arreglado para mantener abierta Jackson Street, pero\nWitcham estaba intransitable desde las barreras hasta el centro mismo de la ciudad.\nTodos estaban de acuerdo, sin embargo, en que lo peor habia pasado. El rio Kenduskeag\nhabia crecido casi hasta sus margenes en los eriales y hasta muy pocos centimetros por\ndebajo de los muros de cemento del canal que constrenia su paso por el centro de la\nciudad. En esos momentos, Un grupo de hombres —entre ellos Zack Denbrough, el padre\nde George y de Bill— estaba retirando los sacos de arena que habian lanzado el dia\nanterior con aterrorizada prisa. Un dia antes, la inundacion y sus costosos danos habian\nparecido casi inevitables. Bien sabia Dios que ya habia ocurrido anteriormente —la\n"

doceso1 <- read_docx() #Crea un documento de word en blanco
doceso1 <- doceso1 %>% body_add_par(textoeso1) #Pega el texto en el doceso1
print(doceso1, target="eso1.docx") #Guarda el doceso1 en la compu

imageneso2 <- image_read("C:\\Users\\lenovo\\Documents\\eso_2.png")
textoeso2 <- ocr(imageneso2)
textoeso2

## [1] "iInundacion de 1931 habia sido un desastre con un costo de millones de dolares y de mas\nde veinte vidas—. De aquello hacia ya mucho tiempo, pero aun quedaba gente por ahi\nque lo recordaba para asustar al resto. Una de las victimas de la inundacion habia sido\nhallada en Bucksport, a unos cuarenta kilometros de distancia. Los peces le habian\ncomido a ese infortunado caballero los ojos, tres dedos, el pene y la mayor parte del pie\nIzquierdo. Agarrado por lo que restaba de sus manos, habia aparecido el volante de un\nFord.\n\nAhora, sin embargo, el rio estaba retrocediendo y cuando se elevara la nueva presa\nhidraulica de Bangor, corriente arriba, dejaria de ser Una amenaza. Al menos eso decia\nZack Denbrough, que trabajaba en Hidroelectrica Bangor. En cuanto a los demas... bueno,\nlas Inundaciones futuras esperarian. Lo importante era salir de esta, devolver la corriente\nelectrica y despues olvidarla. En Derry, eso de olvidar la tragedia y el desastre era casi un\narte, tal como Bill Denbrough llegaria a descubrir con el tiempo.\n\nGeorge se detuvo Justo detras de las barreras al borde de una profunda grieta que se\nhabia abierto en la superficie de alquitran de Witcham Street. Este barranco discurria casi\nexactamente en diagonal. Terminaba al otro extremo de la calle, a unos doce metros de\ndonde el se encontraba, colina abajo hacia la derecha. Rio en voz alta —el sonido de la\nsolitaria alegria infantil salvando metas en aquella tarde gris—, mientras un capricho del\nagua desbordada llevaba su barco de papel hasta unas cataratas a escala formadas por\notra grieta en el pavimento. El agua habia abierto con su urgencia un canal que corria a Lo\nlargo de la diagonal y por ello el barco iba de un lado a otro de la calle arrastrado tan\ndeprisa por la corriente que George tuvo que correr para seguirlo. EL agua se extendia\nbajo sus botas, formando laminas de lodo. Sus hebillas sonaban con un jubiloso tintineo\nmientras George Denbrough corria hacia su extrana muerte. Y el sentimiento que le\ncolmaba en ese momento era, clara y simplemente, amor hacia su hermano.., amor y\ntambien una cierta tristeza porque Bill no podia estar alli para ver aquello y compartirlo.\nClaro que el trataria de describirselo cuando volviese a casa, pero sabia que Jamas podria\nhacer que BIll Jo viese, tal como Bill se lo hubiese hecho ver a el en situacion inversa. Bill\ndestacaba en lectura y redaccion, pero aun a su edad George tenia capacidad suficiente\nComo para comprender que no solo por eso obtenia Bill las mejores notas; tampoco era\nel unico motivo de que a los maestros les gustaran tanto sus composiciones. La forma de\ncontar era solo una parte del asunto. Bill sabia ver.\n\nEl barquito casi silbaba a lo largo de aquel canal, solo una pagina arrancada de la seccion\nde anuncios clasificados del News de Derry, pero George lo imaginaba como una\ntorpedera en una pelicula de guerra de esas que solia ver en el Teatro Derry con Bill, en\nlas matinées de los sabados. Una pelicula de guerra en la que John Wayne luchaba contra\nlos Japoneses. La proa del barco de papel levantaba olas a cada lado mientras seguia su\nprecipitado curso hacia la cuneta del lado izquierdo de la calle. En ese punto, un nuevo\narroyuelo corria sobre la grieta abierta en el pavimento creando un remolino bastante\ngrande. George penso que el barco volcaria yendose a pique. Escoro de modo alarmante\npero luego se enderezo, giro y navego rapidamente hacia la interseccion. George lanzo\ngritos de jubilo y corrio para alcanzarlo. Sobre su cabeza, una torva rafaga de viento\notonal hizo silbar los arboles, casi completamente liberados de su carga de hojas a causa\nde la tormenta, que ese ano habia sido un segador implacable.\n"

doceso2 <- read_docx() #Crea un documento de word en blanco
doceso2 <- doceso2 %>% body_add_par(textoeso2) #Pega el texto en el doceso1
print(doceso2, target="eso2.docx") #Guarda el doceso1 en la compu

imagen3 <- image_read("C:\\Users\\lenovo\\Documents\\eso_1.png")
imagen4 <- image_read("C:\\Users\\lenovo\\Documents\\eso_2.png")
texto3 <- ocr(imagen3)
texto4 <- ocr(imagen4)
doc3 <- read_docx() # Crea un documento de word en blanco
doc3 <- doc3 %>% body_add_par(texto3) %>% body_add_par(texto4) # Pega el texto en el doc1
print(doc3, target="ESOJUNTOS.docx") # Guarda el ESOJUNTOS en la compu

Etapa 2: Explorar datos

Instalar paquetes y llamar librerías

#install.packages("syuzhet") #Análisis de sentimientos
library (syuzhet)
#install.packages("tm") #Minería de texto 
library (tm)

## Loading required package: NLP

## 
## Attaching package: 'NLP'

## The following object is masked from 'package:ggplot2':
## 
##     annotate

#install.packages("wordcloud") #Nube de Palabras
library (wordcloud)

## Loading required package: RColorBrewer

#install.packages("RColorBrewer")
library(RColorBrewer)

Análisis de Emociones y sentimientos

texto <- pdf_eso
texto_palabras <- get_tokens(texto)
emociones <- get_nrc_sentiment(texto_palabras, language = "spanish")
#Alegría, trsiteza, Ira, Miedo, Asco, Sorpresas, Anicipación y confianza.
barplot(colSums(prop.table(emociones[,1:8])))

sentimientos <- (emociones$negative*-1) + emociones$positive
simple_plot(sentimientos)

Nube de palabras

palabras <- texto_palabras
palabras <- removeWords(palabras, c(stopwords("spanish"), "hacia", "habia", "habian", "hecho"))
wordcloud(words = palabras, min.freq=2, rot.per = 0, random.order=FALSE)

## Warning in tm_map.SimpleCorpus(corpus, tm::removePunctuation): transformation
## drops documents

## Warning in tm_map.SimpleCorpus(corpus, function(x) tm::removeWords(x,
## tm::stopwords())): transformation drops documents