2022.04 ~ 2022.06 ( 텍스트 데이터 분석 )
현대 사회에서 하루마다 많은 메일 수신이 온다. 하지만 많은 메일 중 나에게 중요한 메일도 있지만, 광고성 메일, 인증 메일, 알림 메일 등 많은 불필요한 메일이 존재하며 우리는 이 중 나에게 필요한 메일을 확인하기 위해서는 불필요한 시간이 소모 된다.
** 따라서 자신의 메일함 데이터를 이용한, 내가 읽을 것 같은 메일을 예측하여 알려주는 시스템을 구현하고자 한다. **
중요한 메일이 왔을 경우, 확인을 할 수 있도록 읽어야 하는 메일에 대한 높은 성능을 만들어야 한다.
중요하지 않은 메일을 건너 뛸 수 있도록 잘 걸러내야 한다.
자신의 메일함을 기반으로 분석하기 때문에 보다 자신에게 적합한 사용자 기반 메일 분류기를 만들어내도록 한다.
-
네이버 메일 자동 로그인
-
크롤링을 통한 사용자의 메일 데이터를 수집
(읽음 여부, 발신인, 메일 제목, 발신 날짜)
메일 5000개 당 약 한 시간 소요 -
데이터 전처리
읽음 여부는 읽은 메일을 1, 읽지 않은 경우 0
발신인과 메일 제목은 명사 추출 후 이를 활용하여 TF-IDF 벡터화 진행
발신인 메일 제목의 길이를 활용하여 피쳐 사용
발신 날짜는 해당 년도, 월, 시각 이용 -
imbalanced_data 확인 여부 후, 데이터 resampling
-
train, validation 데이터 분할
-
Features selection
-
Modeling ( LGBM Classifier, Logistic Regression 사용 )
-
Scoring
-
사용자 메일 내용 워드 클라우딩
[메일 제목 기반 워드클라우드]
[메일 제목 기반 워드클라우드 2]
Unbalanced data이므로, recall과 precision을 score로 산정
| Header | precision | recall | f1-score | support |
|---|---|---|---|---|
| 읽지 않은 메일 | 1.00 | 0.69 | 0.81 | 4451 |
| 읽은 메일 | 0.06 | 0.85 | 0.11 | 99 |
실제로 수신 확인한 데이터 중 수신 확인할 것이라 예측한 비율 85% 실제로 수신 확인하지 않은 데이터 중 수신 확인하지 않을 것이라 예측한 비율 69%
아직, 서비스를 위한 성능으로는 부족하다고 느껴지지만, 부족한 데이터 추가적인 피쳐와 모델링을 사용한다면 성능을 더 높일 수 있을 것이라 기대한다.