Text Mining

Teoría

La minería de texto(TM) es el proceso de extraer información util, patrones o conocimiento de textos no estructurados

Consta de tres etapas:

1. Obtener datos: El Reconocimiento Óptico de Caracteres (OCR) es una tecnología que permite convertir imagenes de texto en texto editable. También es conocido como extracción de de tecto de imágenes.

2. Explorar datos: Representación gráfica o visual de los datos para su interpretación, Los métodos más comunes son el análisis de Sentimientos, la nube de Palrbaas y el Topic Modeling.

3. Análisis Predictivo: son las técnicas y modelos estadisticos para predecir resultados futuos. Los modelos más usados son el Random Forest, redes neuronales y regresiones.

Instalar paqueteles y llamar librerías

#install.packages("tidyverse") #Manipulación de datos 
library(tidyverse)
#install.packages("tesseract") #OCR (reconocimiento optico de caracteres)
library(tesseract)
#install.packages("magick") #imagenes en png 
library(magick)
#install.packages("officer") #office(word)
library(officer)
#install.packages("pdftools")#pdf 
library(pdftools)
#install.packages("purrr") #para la función "map" para aplicarf una función a cada elemento de un vector.
library(purrr)

Etapa 1. Obtener datos mediante OCR

De imagen PNG a texto en Word

imagen1 <- image_read("/Users/vivi/Downloads/imagen1.PNG")
texto1 <- ocr(imagen1)
texto1

## [1] "Linear regression with one variable x is also known as univariate linear regression\nor simple linear regression. Simple linear regression is used to predict a single\noutput from a single input. This is an example of supervised learning, which means\nthat the data is labeled, i.e., the output values are known in the training data. Let us\nfit a line through the data using simple linear regression as shown in Fig. 4.1.\n"

doc1 <- read_docx() #Crea un documento de Word en blanco
doc1 <- doc1 %>% body_add_par(texto1) #Pega el texto en el doc1
print(doc1, target="texto1.docx") #Guarda el doc 1 en la compu

De imagen PNG en español a texto en Word

imagen2 <- image_read("/Users/vivi/Downloads/imagen2.PNG")
tesseract_download("spa")

## Training data already exists. Overwriting /Users/vivi/Library/Application Support/tesseract5/tessdata/spa.traineddata

## [1] "/Users/vivi/Library/Application Support/tesseract5/tessdata/spa.traineddata"

texto2 <- ocr(imagen2, engine = tesseract("spa"))
texto2

## [1] "Un importante, y quizá controversial, asunto político es el que se refiere al efecto del salario mínimo sobre\nlas tasas de desempleo en diversos grupos de trabajadores. Aunque este problema puede ser estudiado con\ndiversos tipos de datos (corte transversal, series de tiempo o datos de panel), suelen usarse las series de\ntiempo para observar los efectos agregados. En la tabla 1.3 se presenta un ejemplo de una base de datos\nde series de tiempo sobre tasas de desempleo y salarios mínimos.\n"

doc2 <- read_docx() #Crea un documento de Word en blanco
doc2 <- doc2 %>% body_add_par(texto1) #Pega el texto en el doc1
print(doc2, target="texto2.docx") #Guarda el doc 1 en la compu

Actividad 1. Eso

#De PDF a texto en Word 
pdf_eso <- pdf_convert("/Users/vivi/Downloads/eso.pdf", dpi=600) %>% map (ocr)

## Converting page 1 to eso_1.png... done!
## Converting page 2 to eso_2.png... done!

eso1 <-image_read("/Users/vivi/Desktop/eso_1.png") 
textoeso1<- ocr(eso1, engine= tesseract('spa'))

eso2 <-image_read("/Users/vivi/Desktop/eso_2.png")
textoeso2<- ocr(eso2, engine= tesseract('spa'))

doc3 <- read_docx()
doc3 <- doc3 %>% body_add_par(textoeso1)
doc3 <- doc3 %>% body_add_par(textoeso2)

print(doc3, target= "Texto_eso.docx")

Etapa 2. Explorar Datos

Instalar paquetes y llamar librerías

#install.packages("syuzhet") #Análisis de Sentimientos
library(syuzhet)
#install.packages("tm") #Míneria de texto
library(tm)
#install.packages("wordcloud")
library(wordcloud)
#install.packages("RColoeBrewer")
library(RColorBrewer)

Análisis de Emociones y Sentimientos

texto <-pdf_eso
texto_palabras <- get_tokens(texto)
emociones <- get_nrc_sentiment(texto_palabras, language= "spanish")
#Alegría, Tristeza, Ira, Miedo, Sorpresa, Asco, Anticipación, Confianza 
barplot(colSums(prop.table(emociones[,1:8])))

sentimientos <-(emociones$negative*-1)+emociones$positive
simple_plot(sentimientos)

## Nube de Palabras

palabras <- texto_palabras 
palabras <-removeWords(palabras,
                       c(stopwords("Spanish"),"hacia","habia","habian","hecho"))
wordcloud(words=palabras, min.freq =2, rot.per =0, random.order=FALSE)

## Warning in tm_map.SimpleCorpus(corpus, tm::removePunctuation): transformation
## drops documents

## Warning in tm_map.SimpleCorpus(corpus, function(x) tm::removeWords(x,
## tm::stopwords())): transformation drops documents