LDA và QDA

Tên: Mai Huy

MSSV: 43.01.104.065

Số thứ tự: 08

1) ÁP dụng LDA

# Load thư viện MASS
library(MASS)

# Phân tích khác biệt tuyến tính với chỉ có 2 biến đầu vào Lag1 và lag2 trong tập dữ liệu trước năm 2005
lda.fit = lda ( Direction~Lag1+ Lag2 , data=Smarket , subset
=train)
# Thông tin khác biệt tuyến tính
lda.fit

Kết quả hàm lda() chỉ ra rẳng 49.2% dữ liệu huấn luyện có direction: down

Đồng thời cho biết giá trị trung bình của mỗi nhóm biến đầu (Lag1 và Lag2) vào tương ứng với mỗi phân loại Down và Up

Hàm lda() cũng cung cấp những hệ số phân biệt Lag1= -0.6420190 và Lag2 = -0.5135293, nếu -0,642 x Lag1 -0,514 x Lag2 lớn thì LDA sẽ dự đoán phân loại thị trường tăng. Nếu nhỏ thì sẽ dự đoán thị trường giảm

# Hiển 2 biểu đồ cột cho khác sự khác biệt tuyến tính giữa nhóm Direction = Down và Up
plot(lda.fit)

# Dùng hàm table() để tạo ra một ma trận để quyết định xem có bao nhiêu quan sát được phân loại đúng, bao nhiêu bị phân loại sai
table(glm.pred,Direction.2005)

Tỉ lệ dự đoán đúng những ngày thị trường Up là 106/(106+76) = 58,2%

# dự đoán XU HƯỚNG thị trường với giá trị cụ thể của Lag1 = 1.2 Và 1.5, Lag 2= 1.1 và -0.8
predict(glm.fits,newdata=data.frame(Lag1=c(1.2,1.5),
Lag2=c(1.1,-0.8)),type="response")

# Hàm predict dùng để dự đoán xác suất xu hướng thị trường sẽ đi lên (Direction = Up) với tập data từ năm 2005 trở đi
lda.pred=predict(lda.fit, Smarket.2005)

# Tên các thuộc tính trong lda.pred
names(lda.pred)

class chứa dự đoán của LDA về khả năng di chuyển của thị trường cho 252 dòng dữ liệu từ năm 2005 trở đi

posterior là xác suất hậu nghiệm, xác suất dự đoán thị trường đi lên hay đi xuống cho 252 dòng dữ liệu từ năm 2005 trở đi

x là hệ số khác biệt tuyết tính (linear discriminants)

# Rút trích thông tin về class chỉ chứa những dự đoán Up và Down từ 252 dòng dữ liệu từ năm 2005 trở đi
lda.class=lda.pred$class

# Dùng hàm table() để tạo ra một ma trận để quyết định xem có bao nhiêu quan sát được phân loại đúng, bao nhiêu bị phân loại sai
table(lda.class ,Direction.2005)

# Dự đoán %số ngày dự đoán đúng
mean(lda.class==Direction.2005)

# Tổng số lượng dòng có xác suất dự đoán > 0.5 trong tập dữ liệu từ năm 2005 trở đi
sum(lda.pred$posterior [ ,1]>=.5)

# Tổng số lượng dòng có xác suất dự đoán < 0.5 trong tập dữ liệu từ năm 2005 trở đi
sum(lda.pred$posterior [,1]<.5)

# Lấy 20 dòng xác suất hậu nghiệm đầu tiên
lda.pred$posterior[1:20,1]

Xác suất hậu nghiệm là xác suất tương ứng với thị trường sẽ giảm

# Lấy 20 dòng được dự đoán Up hoặc Down của dữ liệu từ năm 2005 trở đi
lda.class[1:20]

# Tổng số lượng dòng có xác suất dự đoán > 0.9 trong tập dữ liệu từ năm 2005 trở đi
sum(lda.pred$posterior [,1]>.9)

Chúng ta giả sử rằng chúng ta sẽ dự đoán thị trường giảm nếu chúng ta chắc chắn thị trường sẽ giảm sâu vào những ngày này. Nghĩa là xác suất hậu nghiệm phải ít nhất là 90%.

Tuy nhiên Không có ngày nào trong năm 2005 thỏa mãn điều kiện này.

2) Áp dụng QDA

# Phân tích khác biệt bình phương với chỉ có 2 biến đầu vào Lag1 và lag2 trong tập dữ liệu trước năm 2005
qda.fit = qda (Direction~Lag1+ Lag2 , data=Smarket , subset =train)
# Thông tin khác biệt bình phương
qda.fit

# Rút trích thông tin về class chỉ chứa những dự đoán Up và Down từ 252 dòng dữ liệu từ năm 2005 trở đi
qda.class= predict(qda.fit,Smarket.2005)$class

# Dùng hàm table() để tạo ra một ma trận để quyết định xem có bao nhiêu quan sát được phân loại đúng, bao nhiêu bị phân loại sai
table(qda.class, Direction.2005)

# Dự đoán %số ngày dự đoán đúng
mean(qda.class==Direction.2005)

Sử dụng QDA chúng ta có được tỉ lệ dự đoán đúng cao hơn hẳn so với LDA.