Banking_ML_Project

Описание проекта

Цель проекта — определение характеристик, по которым можно выявить клиентов, более склонных к открытию депозита в банке, и за счёт этого повысить результативность маркетинговой кампании.

Задача относится к бинарной классификации. Необходимо построить модель машинного обучения, которая на основе предложенных характеристик клиента будет предсказывать, воспользуется он предложением об открытии депозита (1) или нет (0).

Установка зависимостей

Весь проект выполнялся в виртуальной среде venv.

Перед запуском установите необходимые библиотеки:

    $ pip install requirements.txt

Проект состоит из следующих этапов:

1. Первичная обработка данных

2. Разведывательный анализ данных (EDA)

3. Отбор и преобразование признаков

4. Решение задачи классификации: логистическая регрессия и решающие деревья

5. Решение задачи классификации: ансамбли моделей и построение прогноза

6. Общий вывод

Используемые технологии

• Python 3.12+
• Pandas, Numpy, Matplotlib, Seaborn
• Scikit-learn
• Regex
• Pickle (сериализация и десериализация моделей)
• Optuna (подбор гиперпараметров)

Подходы к моделированию

Проект включает реализацию и сравнение нескольких моделей в том числе и стекинг:

Модель	Подход	Назначение
LogisticRegression	Гиперпараметры подобраны вручную	Оценка модели по всем четырем метрикам
DecisionTreeClassifier	Гиперпараметры подобраны вручную	Оценка модели по всем четырем метрикам
RandomForestClassifier	Гиперпараметры подобраны вручную	Оценка модели по всем четырем метрикам
GradientBoostingClassifier	Гиперпараметры подобраны вручную	Оценка модели по всем четырем метрикам
Стекинг	Гиперпараметры подобраны вручную	Оценка модели по всем четырем метрикам
GridSearch + DecisionTreeClassifier	Гиперпараметры подобраны GridSearch	Оценка модели по всем четырем метрикам
Optuna + RandomForestClassifier	Гиперпараметры подобраны Optuna	Оценка модели по всем четырем метрикам

Каждая модель тестируется на выборке 67% обучающей части и 33% валидационной.

Сравнение производится по метрикам: Precision, Recall, F1, Accuracy

В этом ноутбуке реализованы:

• преобразования данных (обработаны номинальные и порядковые признаки + целевая переменная)
• отбор признаков с помощью SelectKBest
• масштабирование данных MinMaxScaler
• подбор гиперпараметров с помощью GridSearch, Optuna
• кросс-валидация
• сериализация двух лучших моделей: основной и альтернативной в формат pkl