Text Mining

Teoría

La minería de datos de texto (TM) es el proceso de extraer información útil, patrones o conocimiento de textos no estructurados.

Consta de tres etapas:
1. Obtener datos: El Reconocimiento Óptico de Caractéres (OCR) es una tecnología que permite convertir imágenes de texto en texto editable. También es conocido como extracción de texto de imágenes.
2. Explorar datos: Representación gráfica o visual de los datos para su interpretación. Los métodos más comunes son el Análisis de Sentimientos, la Nube de Palabras y el Topic Modeling.
3. Análisis predictivo: Son las técnicas y modelos estadísticos para predecri resultados futuros. Los modelos más usados son el Random Forest, redes neuronales y regresiones.

#install.packages("tidyverse") #Manipulación de datos
library(tidyverse)
#install.packages("tesseract") # OCR
library(tesseract)
#install.packages("magick") # PNG
library(magick)
#install.packages("officer") # Office "Word"
library(officer)
#install.packages("pdftools") # PDF
library(pdftools)
#install.packages("purrr") # PDF
library(purrr) 

Etapa 1. Obtener Datos mediante OCR

De imagen PNG a texto en Word

imagen1 <- image_read("C:\\Users\\Usuario\\Documents\\IA Concentración\\M2\\Text Mining\\imagen1 (1).PNG")
texto1 <- ocr(imagen1)
texto1

## [1] "Linear regression with one variable x is also known as univariate linear regression\nor simple linear regression. Simple linear regression is used to predict a single\noutput from a single input. This is an example of supervised learning, which means\nthat the data is labeled, i.e., the output values are known in the training data. Let us\nfit a line through the data using simple linear regression as shown in Fig. 4.1.\n"

doc1 <- read_docx() #Crea un documento de Word en blanco
doc1 <- doc1 %>% body_add_par(texto1) # Pega el texto en el doc
print(doc1, target="texto1.docx") # Guarda el doc en la compu con un nombre asignado

De imagen PNG en español a texto en Word

imagen2 <- image_read("C:\\Users\\Usuario\\Documents\\IA Concentración\\M2\\Text Mining\\imagen2.PNG")
tesseract_download("spa")

## Training data already exists. Overwriting C:\Users\Usuario\AppData\Local\tesseract5\tesseract5\tessdata/spa.traineddata

## [1] "C:\\Users\\Usuario\\AppData\\Local\\tesseract5\\tesseract5\\tessdata/spa.traineddata"

texto2 <- ocr(imagen2, engine = tesseract("spa"))
texto2

## [1] "Un importante, y quizá controversial, asunto político es el que se refiere al efecto del salario mínimo sobre\nlas tasas de desempleo en diversos grupos de trabajadores. Aunque este problema puede ser estudiado con\ndiversos tipos de datos (corte transversal, series de tiempo o datos de panel), suelen usarse las series de\ntiempo para observar los efectos agregados. En la tabla 1.3 se presenta un ejemplo de una base de datos\nde series de tiempo sobre tasas de desempleo y salarios mínimos.\n"

doc2 <- read_docx() #Crea un documento de Word en blanco
doc2 <- doc2 %>% body_add_par(texto2) # Pega el texto en el doc
#print(doc2, target="texto2.docx") # Guarda el doc en la compu con un nombre asignado

Actividad 1. Eso

#De pdf a texto en word
pdf_eso <- pdf_convert("C:\\Users\\Usuario\\Documents\\IA Concentración\\M2\\Text Mining\\eso.pdf", dpi=600) %>% map(ocr)

## Converting page 1 to eso_1.png... done!
## Converting page 2 to eso_2.png... done!

Transformar pdf a png en español

imagen3 <- image_read("C:\\Users\\Usuario\\Documents\\IA Concentración\\M2\\Text Mining\\eso_1.PNG")
tesseract_download("spa")

## Training data already exists. Overwriting C:\Users\Usuario\AppData\Local\tesseract5\tesseract5\tessdata/spa.traineddata

## [1] "C:\\Users\\Usuario\\AppData\\Local\\tesseract5\\tesseract5\\tessdata/spa.traineddata"

texto3 <- ocr(imagen3, engine = tesseract("spa"))
texto3

## [1] "I. DESPUÉS DE LA INUNDACIÓN (1957)\nEl terror, que no terminaría por otros veintiocho años —si es que terminó alguna vez—,\ncomenzó, hasta donde sé o puedo contar, con un barco hecho de una hoja de un diario\nque flotaba a lo largo del arroyo de una calle anegada de lluvia.\nEl barquito cabeceo, se ladeó, volvió a enderezarse en medio de traicioneros remolinos y\ncontinuó su marcha por Witcham Street hacia el semáforo que marcaba la intersección\nde ésta y Jackson. Las tres lentes verticales a los lados del semáforo estaban a oscuras y\ntambién todas las casas, en aquella tarde de otoño de 1957. Llovía sin cesar desde hacia\nya una semana y dos dias atrás habian llegado también los vientos. Desde entonces, la\nmayor parte de Derry habia quedado sin corriente electrica y aún seguía asi.\nUn chiquillo de impermeable amarillo y botas rojas seguía alegremente al barco de\npapel. La lluvia no había cesado, pero al fin estaba amainando. Golpeteaba sobre la\ncapucha amarilla del impermeable sonando a los oidos del niño como lluvia sobre el\ntejado de un cobertizo.. un sonido reconfortante, casi acogedor. El niño del impermeable\namarillo era George Denbrough. Tenia seis años. William, su hermano, a quien casi todos\nlos niños de la escuela primaria de Derry (y hasta los maestros, aunque jamás habrian\nusado el apodo frente a él) conocían como Bill el Tartaja, estaba en su casa pasando los\nrestos de una gripe bastante seria. En ese otoño de 1957, ocho meses antes de que\ncomenzasen realmente los horrores y veintiocho años antes del desenlace final, Bill el\nTartaja tenía diez años.\nEra Bill quien había hecho el barquito junto al cual corria George. Lo habia hecho sentado\nen su cama, con la espalda apoyada en un montón de almohadas, mientras la madre\ntocaba Para Elisa en el piano de la sala y la lluvia barría incansablemente la ventana de su\ndormitorio.\nA un tercio de manzana, camino de la intersección y del semáforo apagado, Witcham\nStreet estaba cerrada al tráfico por varios toneles de brea y cuatro caballetes color\nnaranja. En cada uno de esos caballetes se leía: AYUNTAMIENTO DE DERRY —\nDEPARTAMENTO DE OBRAS PUBLICAS. Tras ellos, la lluvia había desbordado\nalcantarillas atascadas con ramas, piedras y cúumulos de pegajosas hojas otonales. El\nagua habia ido picando el pavimento al principio, arrancado luego grandes trozos\ncodiciosos; todo esto, hacia el tercer día de las lluvias. Hacia el mediodía de la cuarta\njornada, grandes trozos de pavimento eran arrastrados por la intersección de Jackson y\nWitecham como tempanos de hielo en minlatura. Muchos habitantes de Derry habian\nempezado por entonces a hacer chistes nerviosos sobre el Arca. El Departamento de\nObras Públicas se las había arreglado para mantener ablerta Jackson Street, pero\nWitcham estaba intransitable desde las barreras hasta el centro mismo de la ciudad.\nTodos estaban de acuerdo, sin embargo, en que lo peor había pasado. El rio Kenduskeag\nhabia crecido casi hasta sus márgenes en los erlales y hasta muy pocos centimetros por\ndebajo de los muros de cemento del canal que constreñía su paso por el centro de la\ncludad. En esos momentos, un grupo de hombres —entre ellos Zack Denbrough, el padre\nde George y de Bill — estaba retirando los sacos de arena que habian lanzado el día\nanterior con aterrorizada prisa. Un día antes, la inundación y sus costosos daños habían\nparecido casi inevitables. Bien sabia Dios que ya habia ocurrido anteriormente —la\n"

doc3 <- read_docx() #Crea un documento de Word en blanco
doc3 <- doc3 %>% body_add_par(texto3) # Pega el texto en el doc
print(doc3, target="texto3.docx") # Guarda el doc en la compu con un nombre asignado

imagen4 <- image_read("C:\\Users\\Usuario\\Documents\\IA Concentración\\M2\\Text Mining\\eso_2.png")
tesseract_download("spa")

## Training data already exists. Overwriting C:\Users\Usuario\AppData\Local\tesseract5\tesseract5\tessdata/spa.traineddata

## [1] "C:\\Users\\Usuario\\AppData\\Local\\tesseract5\\tesseract5\\tessdata/spa.traineddata"

texto4 <- ocr(imagen4, engine = tesseract("spa"))
texto4

## [1] "inundación de 1931 habia sido un desastre con un costo de millones de dólares y de mas\nde veinte vidas—. De aquello hacia ya mucho tiempo, pero aún quedaba gente por ahi\nque lo recordaba para asustar al resto. Una de las victimas de la inundación había sido\nhallada en Bucksport, a unos cuarenta kilómetros de distancia. Los peces le habían\ncomido a ese infortunado caballero los ojos, tres dedos, el pene y la mayor parte del pie\nizquierdo. Agarrado por lo que restaba de sus manos, habia aparecido el volante de un\nFord.\n\nAhora, sin embargo, el rio estaba retrocediendo y cuando se elevara la nueva presa\nhidraulica de Bangor, corriente arriba, dejaria de ser una amenaza. Al menos eso decia\nZack Denbrough, que trabajaba en Hidroeléctrica Bangor. En cuanto a los demás.. bueno,\nlas inundaciones futuras esperarian. Lo importante era salir de ésta, devolver la corriente\neléctrica y después olvidarla. En Derry, eso de olvidar la tragedia y el desastre era casi un\narte, tal como Bill Denbrough llegaría a descubrir con el tiempo.\n\nGeorge se detuvo justo detrás de las barreras al borde de una profunda grieta que se\nhabía abierto en la superficie de alquitrán de Witcham Street. Este barranco discurría casi\nexactamente en diagonal. Terminaba al otro extremo de la calle, a unos doce metros de\ndonde él se encontraba, colina abajo hacia la derecha. Rió en voz alta —el sonido de la\nsolitaria alegría infantil salvando metas en aquella tarde gris—, mientras un capricho del\nagua desbordada llevaba su barco de papel hasta unas cataratas a escala formadas por\notra grieta en el pavimento. El agua había abierto con su urgencia un canal que corría a lo\nlargo de la diagonal y por ello el barco iba de un lado a otro de la calle arrastrado tan\ndeprisa por la corriente que George tuvo que correr para seguirlo. El agua se extendía\nbajo sus botas, formando láminas de lodo. Sus hebillas sonaban con un jubiloso tintineo\nmientras George Denbrough corría hacia su extraña muerte. Y el sentimiento que le\ncolmaba en ese momento era, clara y simplemente, amor hacia su hermano.., amor y\ntambién una cierta tristeza porque Bill no podía estar alli para ver aquello y compartirlo.\nClaro que el trataría de describirselo cuando volviese a casa, pero sabia que jamas podría\nhacer que Bill lo viese, tal como Bill se lo hubiese hecho ver a el en situación inversa. Bill\ndestacaba en lectura y redacción, pero aun a su edad George tenía capacidad suficiente\ncomo para comprender que no sólo por eso obtenía Bill las mejores notas; tampoco era\nel único motivo de que a los maestros les gustaran tanto sus composiciones. La forma de\ncontar era sólo una parte del asunto. Bill sabia ver.\n\nEl barquito casi silbaba a lo largo de aquel canal, sólo una página arrancada de la sección\nde anuncios clasificados del News de Derry, pero George lo imaginaba como una\ntorpedera en una película de guerra de esas que solía ver en el Teatro Derry con Bill, en\nlas matinées de los sabados. Una pelicula de guerra en la que Jonn Wayne luchaba contra\nlos japoneses. La proa del barco de papel levantaba olas a cada lado mientras seguía su\nprecipitado curso hacia la cuneta del lado izquierdo de la calle. En ese punto, un nuevo\narroyuelo corria sobre la grieta abierta en el pavimento creando un remolino bastante\ngrande. George pensó que el barco volcaría yendose a pique. Escoró de modo alarmante\npero luego se enderezó, giró y navegó rapidamente hacia la intersección. George lanzó\ngritos de júbilo y corrió para alcanzarlo. Sobre su cabeza, una torva ráfaga de viento\notoñal hizo silbar los árboles, casi completamente liberados de su carga de hojas a causa\nde la tormenta, que ese año había sido un segador implacable.\n"

doc4 <- read_docx() # Crea un documento de Word en blanco
doc4 <- doc4 %>% body_add_par(texto4) # Pega el texto en el doc
print(doc4, target="texto4.docx") # Guarda el doc en la compu con un nombre asignado

Juntar los dos archivos de texto transformados a un solo docuemnto de word

doc_eso <- read_docx()
doc_eso <- doc_eso %>% body_add_par(texto3) %>% body_add_par(texto4)
print(doc_eso, target="doc_eso.docx")

Etapa 2. Explorar datos mediante análisis de sentimientos

Instalar paquete sy llamra librerías

#install.packages("xml2", dependencies = TRUE)
#install.packages("NLP", dependencies = TRUE)
#install.packages("tm", dependencies = TRUE)

#install.packages("syuzhet") #Análisis de sentimientos
library(syuzhet)
#install.packages("tm") #Minería de texto
library(tm)

## Cargando paquete requerido: NLP

## 
## Adjuntando el paquete: 'NLP'

## The following object is masked from 'package:ggplot2':
## 
##     annotate

#install.packages("wordcloud") #Minería de texto
library(wordcloud)

## Cargando paquete requerido: RColorBrewer

#install.packages("RColorBrewer") #Minería de texto
library(RColorBrewer)

Análisis de emociones y sentimientos

texto <- pdf_eso
texto_palabras <- get_tokens(texto) # Separar texto por palabras, tokens
emociones <- get_nrc_sentiment(texto_palabras, language = "spanish")
# Alegría, tristeza, ira, miedo, sorpresa, asco, anticipación y confianza
barplot(colSums(prop.table(emociones[,1:8])))

sentimientos <- (emociones$negative*-1)+emociones$positive
simple_plot(sentimientos)

Nube de palabras

palabras <- texto_palabras
palabras <- removeWords(palabras, c(stopwords("spanish"),"hacia", "habia", "habian", "hecho"))
wordcloud(words=palabras, min.freq=2, rot.per = 0, random.order=FALSE )

## Warning in tm_map.SimpleCorpus(corpus, tm::removePunctuation): transformation
## drops documents

## Warning in tm_map.SimpleCorpus(corpus, function(x) tm::removeWords(x,
## tm::stopwords())): transformation drops documents