Text Mining
Diego Perez a01275561
2/26/2024
Teoría
La minería de textO (TM) es el proceso de extraer información útil patrones o conocimiento de textos no estructurados.
Consta de 3 estapas:
1. Obtener datos: El reconocimiento óptico de caracteres (OCR) es una
tecnología que permite convertir imágenes de texto editable. También es
conocido como extracción de texto de imágenes.
2. Explorar datos: Representación gráfica o visual de los datos para su
interpretación. Los métodos más comunes son el Análisis de Sentimientos,
la Nube de Palabras y el Topic Modeling.
3. Análisis predictivo: Son las técnicas y modelos stadísticos para
predecir resultados futuros. Los modelos más usados son el Random
Forest, redes neuronales y regresiones.
1. Instalar paquetes y llamar librerías
#install.packages("tidyverse") #Data wrangling
library(tidyverse)
#install.packages("tesseract") #Generar OCR
library(tesseract)
#install.packages("magick") #Imágenes PNG
library(magick)
#install.packages("officer") #Exportar en formatos office (word)
library(officer)
#install.packages("pdftools") #Leer PDFs
library(pdftools)
#install.packages("purrr") #Función Map para aplicar una función a cada elemento de un vector
library(purrr)
#install.packages("tm") #Text Mining
library(tm)
#install.packages("RColorBrewer") #Colores
library(RColorBrewer)
#install.packages("wordcloud") #Nube de palabras
library(wordcloud)
#install.packages("topicmodels") #Modelo de temas
library(topicmodels)
#install.packages("ggplot2")
library(ggplot2)
#install.packages("stringi")
library(stringi)2. Obtener Datos mediante OCR
De imagen PNG a texto en WORD
IMAGEN1<-image_read("C:\\Users\\Diego Pérez\\Downloads\\imagen1.PNG")
texto1<- ocr(IMAGEN1)
texto1## [1] "Linear regression with one variable x is also known as univariate linear regression\nor simple linear regression. Simple linear regression is used to predict a single\noutput from a single input. This is an example of supervised learning, which means\nthat the data is labeled, i.e., the output values are known in the training data. Let us\nfit a line through the data using simple linear regression as shown in Fig. 4.1.\n"doc1 <- read_docx() #Crea un documento de word en blanco
doc1 <- doc1 %>% body_add_par(texto1, style = "Normal") #Pega el texto en el word
#print(doc1, target= "texto1.docx") #Guarda el word en la computadoraImagen en Español PNG a texto en WORD
IMAGEN2<-image_read("C:\\Users\\Diego Pérez\\Downloads\\imagen2.PNG")
tesseract_download("spa")## [1] "C:\\Users\\Diego Pérez\\AppData\\Local\\tesseract5\\tesseract5\\tessdata/spa.traineddata"texto2<- ocr(IMAGEN2, engine = tesseract("spa"))
texto2## [1] "Un importante, y quizá controversial, asunto político es el que se refiere al efecto del salario mínimo sobre\nlas tasas de desempleo en diversos grupos de trabajadores. Aunque este problema puede ser estudiado con\ndiversos tipos de datos (corte transversal, series de tiempo o datos de panel), suelen usarse las series de\ntiempo para observar los efectos agregados. En la tabla 1.3 se presenta un ejemplo de una base de datos\nde series de tiempo sobre tasas de desempleo y salarios mínimos.\n"doc2 <- read_docx() #Crea un documento de word en blanco
doc2 <- doc2 %>% body_add_par(texto2, style = "Normal") #Pega el texto en el word
#print(doc2, target= "texto2.docx") #Guarda el word en la computadoraDe PDF a texto en WORD
#pdf1 <- pdf_convert("C:\\Users\\Diego Pérez\\Downloads\\pdf1.pdf", dpi = 600) %>% map(ocr)Actividad 1. Novela “IT”
Contexto
La novela “IT” se cambiara a un documento en WORD.
Paso 1. convertir el pdf a imagen
pdf2 <- pdf_convert("C:\\Users\\Diego Pérez\\Downloads\\eso3.pdf", dpi = 600) %>% map(ocr)## Converting page 1 to eso3_1.png... done!
## Converting page 2 to eso3_2.png... done!
## Converting page 3 to eso3_3.png... done!Paso 2. Obtener texto de cada PNG
#file.choose()
IMAGEN_IT1<-image_read("C:\\Users\\Diego Pérez\\Downloads\\eso3_1.png")
IMAGEN_IT2<-image_read("C:\\Users\\Diego Pérez\\Downloads\\eso3_2.png")
IMAGEN_IT3<-image_read("C:\\Users\\Diego Pérez\\Downloads\\eso3_3.png")
tesseract_download("spa")## [1] "C:\\Users\\Diego Pérez\\AppData\\Local\\tesseract5\\tesseract5\\tessdata/spa.traineddata"texto_it1<- ocr(IMAGEN_IT1, engine = tesseract("spa"))
texto_it1## [1] "Y alli estaba, persiguiendo su barco de papel por el lado izquierdo de Witcham Street. Corría\ndeprisa, pero el agua le ganaba y el barquito estaba sacando ventaja. Oyó un rugido profundo y\nvio cómo cincuenta metros más adelante, colina abajo, el agua de la cuneta se precipitaba\ndentro de una boca de tormenta que aún continuaba abierta. Era un largo semicirculo oscuro\nabierto en el bordillo de la acera y mientras George miraba, una rama desgarrada, con la corteza\noscura y reluciente se hundió en aquellas fauces. Allí pendió por un momento y luego se deslizó\nhacia el interior. Hacia allí se encaminaba su bote.\n\n— ¡Mierda! —chilló horrorizado.\n\nForzó el paso y, por un momento, pareció que iba a alcanzar al barquito. Pero uno de sus ples\nresbaló y George cayo despatarrado despellejándose la rodilla con un grito de dolor. Desde su\nnueva perspectiva, a la altura del pavimento, vio que su barco giraba en redondo dos veces,\nmomentáneamente atrapado en otro remolino, antes de desaparecer.\n\n—|¡Mierda y más mierda! —volvió a chillar, estrellando el puño contra el pavimento.\n\nEso también dolió, y se echó a sollozar. ¡Qué manera tan estupida de perder el barco!\n\nSe levantó para caminar hacia la boca de tormenta y allí se dejó caer de rodillas, para mirar hacia\nel interior. El agua hacia un ruido hueco y humedo al caer en la oscuridad, Ese sonido le daba\nescalofrios. Hacía pensar en..\n\n—¡Eh!\n\nLa exclamación le fue arrancada como con un cordel. Retrocedioó.\n\nAllí adentro había unos ojos amarillos. Ese tipo de ojos que el siempre imaginaba, sin verlos\nnunca, en la oscuridad del sótano. Es un animal —penso, incoherente—,; eso es todo: un animal; a lo\nmejor un gato que quedó atrapado...\n\nDe todos modos, estaba por echar a correr; habria corrido uno o dos segundos, cuando su\ntablero mental se hubiera hecho cargo del espanto que le produjeron esos dos ojos amarillos y\nbrillantes. Sintió la áspera superficie del pavimento bajo los dedos y la fina lámina de agua fría\nque corría alrededor. Se vio a sí mismo levantándose y retrocediendo. Y fue entonces cuando\nuna voz, una voz perfectamente razonable y bastante simpática, le habló desde dentro de la\nboca de tormenta:\n\n—Hola, George —dijo.\n\nGeorge parpadeo y volvió a mirar. Apenas podía dar crédito a lo que vela; era como algo sacado\nde un cuento o de una película donde uno sabe que los animales hablan y bailan. Si hubiera\ntenido diez años más, no habria creido en lo que estaba viendo; pero no tenia dieciséis años, sino\nseis.\n\nEn la boca de tormenta habia un payaso. La luz distaba de ser buena, pero bastó para que\nGeorge Denbrough estuviese seguro de lo que veía. Era un payaso, como en el circo o en la tele.\nParecía una mezcla de Bozo y Clarabell, el que hablaba haciendo sonar su bocina en Howdy\nDoody, los sábados por la mañana. Búfalo Bob era el único que entendía a Clarabell, y eso\nsiempre hacia reir a George. La cara del payaso metido en la boca de tormenta era blanca; tenia\ncómicos mechones de pelo rojo a cada lado de la calva y una gran sonrisa de payaso pintada\n"texto_it2<- ocr(IMAGEN_IT2, engine = tesseract("spa"))
texto_it2## [1] "alrededor de la boca. Si George hubiese vivido años después, habria pensado en Ronald\nMcDonald antes que en Bozo o en Clarabell.\n\nEl payaso tenía en una mano un manojo de globos de todos los colores, como tentadora fruta\nmadura.\n\nEn la otra, el barquito de papel de George.\n\n—¿Quieres tu barquito, Georgie? —El payaso sonrela.\n\nGeorge también sonrió. No podía evitarlo; aquella sonrisa era del tipo que uno devuelve sin\nquerer.\n\n—Por supuesto.\n\nEl payaso se echó a reir.\n\n—«Por supuesto». ¡Así me gusta! ¡Así me gusta! ¿Y un globo? ¿Que te parece? ¿Quieres un globo”\n—Bueno.. sí, por supuesto. —Alargó la mano, pero de inmediato la retiró contra su voluntad—. No\ndebo coger nada que me ofrezca un desconocido. Lo dice mi papá.\n\n—Y tu papa tiene mucha razón —replicó el payaso de la boca de tormenta sonriendo. George se\npreguntó cómo podia haber creido que sus ojos eran amarillos, si eran de un color azul brillante,\nbailarin, como los ojos de su mamá y de Bill —. Muchísima razón, ya lo creo. Por lo tanto, voy a\npresentarme. George, soy el señor Bob Gray, también conocido como Pennywise, el payaso\nBallarin. Pennywise, te presento a George Denbrough. George, te presento a Pennywise. Y ahora\nya nos conocemos. Yo no soy un desconocido y tu tampoco. ¿Correcto?\n\nGeorge soltó una risita.\n\n—Correcto. —Volvió a estirar la mano.. y a retirarla—. ¿Cómo te metiste alli adentro?\n\n—La tormenta me trajo volaaaando —dijo Pennywise, el payaso Bailarin—. Se llevó todo el circo.\n¿No sientes olor a circo, George?\n\nGeorge se inclinó hacia adelante. ¡De pronto olía a cacahuetes! ¡Cacahuetes tostados! ¡Y vinagre\nblanco, del que se pone en las patatas fritas por un agujero de la tapa! Y olía a algodón de\nazucar, a buñuelos, y también, leve, pero poderosamente, a estiercol de animales salvajes. Olia el\naroma regocijante del aserrin. Y sin embargo..\n\nSin embargo, bajo todo eso olía a inundación, a hojas deshechas y a oscuras sombras en bocas\nde tormenta. Era un olor húmedo y putrido. El olor del sótano.\n\nPero los otros olores eran más fuertes.\n\n—Claro que lo huelo —dijo.\n\n—¿Quieres tu barquito, George? —preguntó Pennywise—. Te lo pregunto otra vez porque no\npareces desearlo mucho.\n"texto_it3<- ocr(IMAGEN_IT3, engine = tesseract("spa"))
texto_it3## [1] "Y lo mostró en alto, sonriendo. Llevaba un traje de seda abolsado con grandes botones color\nnaranja. Una corbata brillante, de color azul eléctrico, se le derramaba por la pechera. En las\nmanos llevaba grandes guantes blancos, como Mickey y Donald.\n\n—Si, claro —dijo George, mirando dentro de la boca de tormenta.\n\n—¿Y un globo? Los tengo rojos, verdes, amarillos, aZules..\n\n—¿Flotan?\n\n—¿Que si flotan? —La sonrisa del payaso se acentuó—. Oh, sí, claro que sí. ¡Flotan! También tengo\nalgodón de azucar.\n\nGeorge estiró la mano.\n\nEl payaso le sujeto el brazo.\n\nY entonces George vio cómo la cara del payaso cambiaba.\n\nLo que vio entonces fue tan terrible que lo peor que había imaginado sobre la cosa del sótano\nparecía un dulce sueño. Lo que vio destruyó su cordura de un zarpazo.\n\n—Flotan —croó la cosa de la alcantarilla con una voz que reía como entre coágulos.\n\nSujetaba el brazo de George con su puño grueso y agusanado. Tiró de él hacia esa horrible\noscuridad por donde el agua corría y rugía y aullaba llevando hacia el mar los desechos de la\ntormenta. George estiró el cuello para apartarse de esa negrura definitiva y empezó a gritar hacia\nla lluvia, a gritar como un loco hacia el gris cielo otoñal que se curvaba sobre Derry aquel día de\notoño de 1957. Sus gritos eran agudos y penetrantes y a lo largo de toda la calle, la gente se\nasomó a las ventanas o se lanzó a los porches.\n\n—Flotan —gruñó la cosa—, flotan, Georgie. Y cuando estés aqui abajo, conmigo, tú también\nflotarás.\n\nEl hombro de George se clavó contra el cemento del bordillo. Dave Gardener, que ese día no\nhabia ido a trabajar al Shoeboat debido a la inundación, vio sólo a un niño de impermeable\namarillo, un niño que gritaba y se retorcia en el arroyo mientras el agua lodosa le corría sobre la\ncara haciendo que sus alaridos sonaran burbujeantes.\n\n—Aqui abajo todo flota —susurró esa voz podrida, riendo, y de pronto sonó un desgarro y hubo\nun destello de agonía y George Denbrough ya no supo más.\n\nDave Gardener fue el primero en llegar. Aunque llegó sólo cuarenta y cinco segundos después\ndel primer grito, George Denbrough ya habia muerto. Gardener lo agarró por el impermeable, tiró\nde él hasta sacarlo a la calle.. y al girar en sus manos el cuerpo de George, también el empezó a\ngritar. El lado izquierdo del impermeable del niño estaba de un rojo intenso. La sangre fluía hacia\nla alcantarilla desde el agujero donde había estado el brazo izquierdo. Un trozo de hueso,\nhorriblemente brillante, asomaba por la tela rota.\n\nLos ojos del niño miraban fijamente el cielo gris y mientras Dave retrocedía a tropezones hacia\nlos otros que ya corrian por la calle, empezaron a llenarse de lluvia.\n"doc_it <- read_docx() #Crea un documento de word en blanco
doc_it <- doc_it %>% body_add_par(texto_it1, style = "Normal") %>% body_add_par(texto_it2, style = "Normal") %>% body_add_par(texto_it3, style = "Normal") #Pega el texto en el word
print(doc_it, target= "texto_it.docx") #Guarda el word en la computadora2. Exploración de Datos
Análisis de Frecuencias
text <- readLines("http://www.sthda.com/sthda/RDoc/example-files/martin-luther-king-i-have-a-dream-speech.txt") #Traer u texto de internet
corpus<- Corpus(VectorSource(text)) #Pone cada renglón en una celda de vector
#inspect(Corpus)
corpus<- tm_map(corpus, content_transformer(tolower))## Warning in tm_map.SimpleCorpus(corpus, content_transformer(tolower)):
## transformation drops documents#minúsculas
corpus <- tm_map(corpus, removePunctuation) # Elimina puntuación## Warning in tm_map.SimpleCorpus(corpus, removePunctuation): transformation drops
## documentscorpus <- tm_map(corpus, removeNumbers) # Elimina números## Warning in tm_map.SimpleCorpus(corpus, removeNumbers): transformation drops
## documentscorpus <- tm_map(corpus, removeWords, stopwords("en")) # Elimina palabras que no hablan del tema## Warning in tm_map.SimpleCorpus(corpus, removeWords, stopwords("en")):
## transformation drops documents#corpus <- tm_map(corpus, removeWords, c("dream", "will")) #Elimina palabras puntuales
inspect(corpus)## <<SimpleCorpus>>
## Metadata: corpus specific: 1, document level (indexed): 0
## Content: documents: 46
##
## [1]
## [2] even though face difficulties today tomorrow still dream dream deeply rooted american dream
## [3]
## [4] dream one day nation will rise live true meaning creed
## [5]
## [6] hold truths selfevident men created equal
## [7]
## [8] dream one day red hills georgia sons former slaves sons former slave owners will able sit together table brotherhood
## [9]
## [10] dream one day even state mississippi state sweltering heat injustice sweltering heat oppression will transformed oasis freedom justice
## [11]
## [12] dream four little children will one day live nation will judged color skin content character
## [13]
## [14] dream today
## [15]
## [16] dream one day alabama vicious racists governor lips dripping words interposition nullification one day right alabama little black boys black girls will able join hands little white boys white girls sisters brothers
## [17]
## [18] dream today
## [19]
## [20] dream one day every valley shall exalted every hill mountain shall made low rough places will made plain crooked places will made straight glory lord shall revealed flesh shall see together
## [21]
## [22] hope faith go back south
## [23]
## [24] faith will able hew mountain despair stone hope faith will able transform jangling discords nation beautiful symphony brotherhood faith will able work together pray together struggle together go jail together stand freedom together knowing will free one day
## [25]
## [26] will day will day god s children will able sing new meaning
## [27]
## [28] country tis thee sweet land liberty thee sing
## [29] land fathers died land pilgrim s pride
## [30] every mountainside let freedom ring
## [31] america great nation must become true
## [32] let freedom ring prodigious hilltops new hampshire
## [33] let freedom ring mighty mountains new york
## [34] let freedom ring heightening alleghenies pennsylvania
## [35] let freedom ring snowcapped rockies colorado
## [36] let freedom ring curvaceous slopes california
## [37]
## [38]
## [39] let freedom ring stone mountain georgia
## [40] let freedom ring lookout mountain tennessee
## [41] let freedom ring every hill molehill mississippi
## [42] every mountainside let freedom ring
## [43] happens allow freedom ring let ring every village every hamlet every state every city will able speed day god s children black men white men jews gentiles protestants catholics will able join hands sing words old negro spiritual
## [44] free last free last
## [45]
## [46] thank god almighty free lasttdm <- TermDocumentMatrix(corpus)
m <- as.matrix(tdm) #Cuenta las veces que aparece cada palabra por renglón
frecuencia <- sort(rowSums(m), decreasing = TRUE) #cuenta la frecuencia de cada palabra en el texto completo
frecuencia_df <- data.frame(word=names (frecuencia),
freq= frecuencia) #Convierte la frecuecia en un data frame
ggplot(head(frecuencia_df, 10), aes(x=reorder (word, -freq), y=freq)) +
geom_bar(stat="identity", fill="lightblue") + geom_text(aes(label=freq), vjust = -0.5) +labs(title= "TOP 10 palabras más frecuentes", subtitle = "Discurso 'I have a Dream' de M. L. King", x="Palabra", y = "frecuencia") + ylim(0,20)
Nube de Palabras
# El procesamiento de datos antes de la nube de palabras es igual que en el Análisis de Frecuencias, desde importar el texto hasta frecuencia_df
set.seed(123)
wordcloud(words=frecuencia_df$word, freq=frecuencia_df$freq, min.freq = 1, random.order = FALSE, colors = brewer.pal(8, "RdPu"))
---
title: "Text Mining"
author: "Diego Perez a01275561"
date: "2/26/2024"
output: 
  html_document:
    toc: true
    toc_float: true
    code_download: true 
    theme: "cosmo"
---

![](C:\\Users\\Diego Pérez\\Downloads\\KCcixw.gif)

# <span style="color: red;">Teoría</span>
La **minería de textO** (TM) es el proceso de extraer información útil patrones o conocimiento de textos no estructurados.  
  
Consta de 3 estapas:  
1. Obtener datos: El reconocimiento óptico de caracteres (OCR) es una tecnología que permite convertir imágenes de texto editable. También es conocido como **extracción de texto de imágenes**.  
2. Explorar datos: Representación gráfica o visual de los datos para su interpretación. Los métodos más comunes son el Análisis de Sentimientos, la Nube de Palabras y el Topic Modeling.   
3. Análisis predictivo: Son las técnicas y modelos stadísticos para predecir resultados futuros. Los modelos más usados son el Random Forest, redes neuronales y regresiones.  

# <span style="color: red;">1. Instalar paquetes y llamar librerías</span>
```{r message=FALSE, warning=FALSE}
#install.packages("tidyverse") #Data  wrangling
library(tidyverse)
#install.packages("tesseract") #Generar OCR
library(tesseract)
#install.packages("magick") #Imágenes PNG
library(magick)
#install.packages("officer") #Exportar en formatos office (word)
library(officer)
#install.packages("pdftools") #Leer PDFs
library(pdftools)
#install.packages("purrr") #Función Map para aplicar una función a cada elemento de un vector
library(purrr)
#install.packages("tm") #Text Mining
library(tm)
#install.packages("RColorBrewer") #Colores
library(RColorBrewer)
#install.packages("wordcloud") #Nube de palabras
library(wordcloud)
#install.packages("topicmodels") #Modelo de temas
library(topicmodels)
#install.packages("ggplot2")
library(ggplot2)
#install.packages("stringi")
library(stringi)
```

# <span style="color: red;">2. Obtener Datos mediante OCR</span>

## <span style="color: red;">De imagen PNG a texto en WORD</span>
```{r}
IMAGEN1<-image_read("C:\\Users\\Diego Pérez\\Downloads\\imagen1.PNG")
texto1<- ocr(IMAGEN1)
texto1
doc1 <- read_docx() #Crea un documento de word en blanco
doc1 <- doc1 %>% body_add_par(texto1, style = "Normal") #Pega el texto en el word
#print(doc1, target= "texto1.docx") #Guarda el word en la computadora
```


## <span style="color: red;">Imagen en Español PNG a texto en WORD</span>
[Cosultar idiomas disponibles](https://tesseract-ocr.github.io/tessdoc/Data-Files-in-different-versions.html)
```{r}
IMAGEN2<-image_read("C:\\Users\\Diego Pérez\\Downloads\\imagen2.PNG")
tesseract_download("spa")
texto2<- ocr(IMAGEN2, engine = tesseract("spa"))
texto2
doc2 <- read_docx() #Crea un documento de word en blanco
doc2 <- doc2 %>% body_add_par(texto2, style = "Normal") #Pega el texto en el word
#print(doc2, target= "texto2.docx") #Guarda el word en la computadora
```

## <span style="color: red;">De PDF a texto en WORD</span>
```{r}
#pdf1 <- pdf_convert("C:\\Users\\Diego Pérez\\Downloads\\pdf1.pdf", dpi = 600) %>% map(ocr)
```
## <span style="color: red;">Actividad 1. Novela "IT"</span>

### Contexto
La novela "IT" se cambiara a un documento en WORD.

### Paso 1. convertir el pdf a imagen
```{r}
pdf2 <- pdf_convert("C:\\Users\\Diego Pérez\\Downloads\\eso3.pdf", dpi = 600) %>% map(ocr)
```
### Paso 2. Obtener texto de cada PNG
```{r}
#file.choose()
IMAGEN_IT1<-image_read("C:\\Users\\Diego Pérez\\Downloads\\eso3_1.png")
IMAGEN_IT2<-image_read("C:\\Users\\Diego Pérez\\Downloads\\eso3_2.png")
IMAGEN_IT3<-image_read("C:\\Users\\Diego Pérez\\Downloads\\eso3_3.png")
tesseract_download("spa")
texto_it1<- ocr(IMAGEN_IT1, engine = tesseract("spa"))
texto_it1
texto_it2<- ocr(IMAGEN_IT2, engine = tesseract("spa"))
texto_it2
texto_it3<- ocr(IMAGEN_IT3, engine = tesseract("spa"))
texto_it3
doc_it <- read_docx() #Crea un documento de word en blanco
doc_it <- doc_it %>% body_add_par(texto_it1, style = "Normal") %>% body_add_par(texto_it2, style = "Normal") %>% body_add_par(texto_it3, style = "Normal") #Pega el texto en el word
print(doc_it, target= "texto_it.docx") #Guarda el word en la computadora
```

# <span style="color: red;">2. Exploración de Datos</span>

## <span style="color: red;">Análisis de Frecuencias</span>
```{r}
text <- readLines("http://www.sthda.com/sthda/RDoc/example-files/martin-luther-king-i-have-a-dream-speech.txt") #Traer u texto de internet
corpus<- Corpus(VectorSource(text)) #Pone cada renglón en una celda de vector
#inspect(Corpus)
corpus<- tm_map(corpus, content_transformer(tolower))
#minúsculas
corpus <- tm_map(corpus, removePunctuation) # Elimina puntuación
corpus <- tm_map(corpus, removeNumbers) # Elimina números
corpus <- tm_map(corpus, removeWords, stopwords("en")) # Elimina palabras que no hablan del tema
#corpus <- tm_map(corpus, removeWords, c("dream", "will")) #Elimina palabras puntuales
inspect(corpus)

tdm <- TermDocumentMatrix(corpus) 
m <- as.matrix(tdm) #Cuenta las veces que aparece cada palabra por renglón

frecuencia <- sort(rowSums(m), decreasing = TRUE) #cuenta la frecuencia de cada palabra en el texto completo

frecuencia_df <- data.frame(word=names (frecuencia),
                            freq= frecuencia) #Convierte la frecuecia en un data frame

ggplot(head(frecuencia_df, 10), aes(x=reorder (word, -freq), y=freq)) +
         geom_bar(stat="identity", fill="lightblue") + geom_text(aes(label=freq), vjust = -0.5)  +labs(title= "TOP 10 palabras más frecuentes", subtitle = "Discurso 'I have a Dream' de M. L. King", x="Palabra", y = "frecuencia") + ylim(0,20)
       
```

## <span style="color: red;">Nube de Palabras</span>
```{r}
# El procesamiento de datos antes de la nube de palabras es igual que en el Análisis de Frecuencias, desde importar el texto hasta frecuencia_df
set.seed(123)
wordcloud(words=frecuencia_df$word, freq=frecuencia_df$freq, min.freq = 1, random.order = FALSE, colors = brewer.pal(8, "RdPu"))

```
