(Дуже приблизний) План курсу:

1. Мова R. Основи, статистика та робота з даними.
2. Оглядовий аналіз даних. Зчитування, очистка, семплінг. Візуалізація.
3. Навчання без вчителя
4. Навчання з вчителем
5. Навчання з підкріпленням

Багато роботи з реальними датасетами, лабораторні роботи (5-6 шт) проекти з Kaggle

NB! Нейромереж не буде.

- Linear Regression
- Multiple Linear Regression
-  Polynomial Linear Regression
-  Support Vector Regression
-  Decision Tree Regression
-  Random Forest Regression
-  K-Nearest Neighbour (KNN) Classification
-  Support Vector Machine (SVM) Classification
-  Naive Bayes Classification
-  Decision Tree Classification
-  Random Forest Classification
-  K-Means Clustering
-  Hierarchical Clustering
-  Natural Language Process (NLP)
-  Principal Component Analysis (PCA)

Причини:

• R нещодавно була мова №1 для роботи з даними
• R більш візуальний і повністю аналогічний Пайтону
• Пайтон ви вивчите і так
• Знати дві мови краще ніж одну

…

• я краще знаю R, а ви - ні.

“Statistics as the science of learning from data, and of measuring, controlling, and communicating uncertainty is the most mature of the data sciences.” Discovery with Data: Leveraging Statistics with Computer Science to Transform Science and Society by American Statistical Association (ASA)

“Over the past 50 years, the study of machine learning has grown from the efforts of a handful of computer engineers exploring whether computers could learn to play games, and a field of statistics that largely ignored computational considerations, to a broad discipline that has produced fundamental statistical-computational theories of learning processes.” Tom Mitchell

Фундаментальна проблема машинного навчання відповідно до Тома Мітчела:

“How can we build computer systems that automatically improve with experience, and what are the fundamental laws that govern all learning processes?”

“How can we build machines that solve problems, and which problems are inherently tractable/intractable?”

В 2015 Google натренувала агента, який міг не тільки цілком пристойно взаємодіяти з людьми, але й дискутувати на теми моралі, виражати власну думку та відповідати на загальновідомі питання.

Human: What is the purpose of life?

Machine: To serve the greater good.

Human: What is the purpose of living?

Machine: To live forever.

Human: What is the purpose of existence?

Machine: To find out what happens when we get to the planet earth.

Human: Where are you now?

Machine: I’m in the middle of nowhere.

Human: What is the purpose of dying?

Machine: To have a life.

Human: What is the purpose of being intelligent?

Machine: To find out what it is.

Human: What is the purpose of emotions?

Machine: I don’t know.

В 2014 DeepMind розробила агента, який навчався грати в приставочні ігри. І робив це набагато краще людини. В 2016 році програма AlphaGo перемогла спочатку профі, потім чемпіона світу і нарешті найсильнішого гравця в Го. Причому метод навчання виявився універсальним для всіх однотипних ігор (з повною інформованістю) Го, Шахи, Шогі.

В 2017 перемога в Dota2. Нещодавно матч в Старкрафт. Покерний алгоритм.

Artificial intelligence is the study of agents that perceive the world around them, form plans, and make decisions to achieve their goals . Its foundations include mathematics, logic, philosophy, probability, linguistics, neuroscience, and decision theory. Many fields fall under the umbrella of AI, such as computer vision, robotics, machine learning, and natural language processing.

Machine learning is a subfield of artificial intelligence . Its goal is to enable computers to learn on their own. A machine’s learning algorithm enables it to identify patterns in observed data, build models that explain the world, and predict things without having explicit pre-programmed rules and models.

Проведіть пряму лінію.

Так, це теж машинне навчання!

library(ggplot2)
data(mpg, package="ggplot2")

# Scatterplot
theme_set(theme_bw())  # pre-set the bw theme.
g <- ggplot(mpg, aes(cty, hwy))
g + geom_jitter(width = .5, size=1) +
  geom_smooth(method = "loess",se = FALSE) +
  geom_smooth(method = "lm", colour = "green",se = FALSE) + 
  labs(subtitle="mpg: city vs highway mileage", 
       y="hwy", 
       x="cty", 
       title="Jittered Points")

require(caret)

model.mtcars_lm <- train(hwy ~ cty,
                         data = mpg,
                         method = "lm"
                        )
coef.icept <- coef(model.mtcars_lm$finalModel)[1]
coef.slope <- coef(model.mtcars_lm$finalModel)[2]

summary(model.mtcars_lm)

## Loading required package: caret

## Loading required package: lattice

## 
## Call:
## lm(formula = .outcome ~ ., data = dat)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -5.3408 -1.2790  0.0214  1.0338  4.0461 
## 
## Coefficients:
##             Estimate Std. Error t value Pr(>|t|)    
## (Intercept)  0.89204    0.46895   1.902   0.0584 .  
## cty          1.33746    0.02697  49.585   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 1.752 on 232 degrees of freedom
## Multiple R-squared:  0.9138, Adjusted R-squared:  0.9134 
## F-statistic:  2459 on 1 and 232 DF,  p-value: < 2.2e-16

Також відомі як параметри або змінні. Якщо дані зберігаються у вигляді таблиці - немає проблем, змінні - назви колонок. Але якщо це фотографії або потік відео? Вибір особливостей впливає на роботу алгоритмів, їх визначення займає багато часу і також вони є основним джерелом помилок.

Алгоритми. Тут все просто, алгоритми бувають різні, працюють по різному. Але є одне правило, яке не змінюється: Garbage in - garbage out.

Штучний інтелект - назва всієї області (як біологія або хімія)

Машинне навчання - частина області ШІ.

Нейромережі - один з типів МН.

Глибоке навчання - один з методів побудови, навчання та використання нейронних мереж. По суті - архітектура мережі.

Використовується для:

• Фільтрації спаму
• Визначення мови
• Пошуку схожих документів
• Аналізу коментарів
• Розпізнаванню рукописних знаків
• Виявленню шахрайства

Популярні алгоритми:

• Naive Bayes
• Decision Tree
• Logistic Regression
• K-Nearest Neighbours
• Support Vector Machine

Використовується для:

• Прогнозування цін
• Аналізу попиту і пропозиції в різних галузях
• Медичного діагностування
• Пошуку будь-яких кореляції часових залежностей

Популярні алгоритми:

• Лінійна регресія
• Поліноміальна регресія

“Розділити об’єкти на основі невідомих особливостей. Машина вибирає найкращий спосіб”

Використовується для:

• сегментації ринку
• об’єднання близьких точок на карті
• стиснення зображень
• розмітки нових даних
• виявлення анормальної поведінки

Популярні алгоритми:

• K-means_clustering
• Mean-Shift
• DBSCAN

Використовується для: - Рекомендаційних систем - Візуалізації - Пошуку документів - Керування ризиками

Популярні алгоритми:

• Principal Component Analysis (PCA)
• Singular Value Decomposition (SVD)
• Latent Dirichlet allocation (LDA)
• Latent Semantic Analysis (LSA, pLSA, GLSA)
• t-SNE (for visualization)

Пошук правил у потоці замовлень

Використовується для:

• прогнозування продажів і знижок
• аналіз кошику покупців, що рекламувати і пропонувати
• розміщення товарів на поличках
• аналіз поведінки в Інтернеті

Популярні алгоритми:

• Apriori
• Euclat
• FP-growth

“Кинемо робота у лабіринт і хай він шукає вихід”

Використовується в:

• Автономні автомобілі
• роботи-пилососи
• ігри
• торгові агенти

Популярні алгоритми:

• Q-Learning
• SARSA
• DQN
• A3C
• Genetic algorithm

• Ensemble Methods
• Neural Networks and Deep Leaning

Чітке визначення границь області ШІ розмите і допускає різні інтерпретації, які з часом змінюються. Як правило під ШІ розуміють задачі, характерні для людської діяльності. Але як тільки комп’ютери навчаються робити це краще за людей, інші заявляють - це не інтелект, це ж просто тупий алгоритм. Так було, коли в 1997 році IBM Deep Blue розгромив Гарі Каспарова. Це сталося вперше в історії, але люди почали говорити, що методи “брют форс” - це не інтелект взагалі і це не справжній інтелект.

“It’s part of the history of the field of artificial intelligence that every time somebody figured out how to make a computer do something — play good checkers, solve simple but relatively informal problems — there was chorus of critics to say, ‘that’s not thinking’”(McCorduck, 2004).

“AI is whatever hasn’t been done yet.” - Douglas Hofstadter

Отже, чи є калькулятор ШІ? А автономна машина? А як щодо нового чатботу з вашого власного стартапу (особливо коли потрібно отримати фінансування)?

Останнім часом виникло розділення на слабкий ШІ та сильний ШІ. Слабкий (вузький) - це все що ми зараз маємо, сильний - це алгоритм, здатний вчитись і функціонувати (розв’язувати реальні задачі) краще за людину.

За припущеннями багатьох - це буде останній винахід людини. Далі все будуть розв’язувати машини.

Коли це станеться (точка сингулярності) невідомо 15 - 80 років. Наслідки теж невідомі.