144 lines
4.8 KiB
Python
144 lines
4.8 KiB
Python
import argparse
|
||
import sys
|
||
import os
|
||
import time
|
||
|
||
from app.engines.report_engine import Reporter
|
||
|
||
from .config import load_config, AppConfig
|
||
from .engines.crawl_engine import CrawlEngine
|
||
from .engines.evidence_engine import EvidenceEngine
|
||
from .models.base import connect_db, create_database
|
||
|
||
from loguru import logger
|
||
import sqlalchemy.exc
|
||
|
||
|
||
class MainApp:
|
||
"""主应用"""
|
||
|
||
def __init__(self):
|
||
self.args = None
|
||
self.config: AppConfig = None
|
||
self.db_engine = None
|
||
|
||
def parse_args(self):
|
||
"""解析命令行参数"""
|
||
parser = argparse.ArgumentParser(description="Baidu Reporter")
|
||
|
||
# 指定配置文件
|
||
parser.add_argument(
|
||
"-c",
|
||
"--config",
|
||
default="./config.local.toml",
|
||
help="指定配置文件路径，默认为 ./config.local.toml",
|
||
)
|
||
|
||
parser.add_argument(
|
||
"--crawl", help="采集模式，根据域名批量采集 SURL，多个域名可使用英文逗号分割，也可通过 --crawl-file 传入文件",
|
||
)
|
||
parser.add_argument(
|
||
"--crawl-file", help="目标域名文件，批量传入待采集的域名，每行一个"
|
||
)
|
||
|
||
parser.add_argument(
|
||
"--evidence", help="收集证据模式，对数据库内的 SURL 获取证据",
|
||
action="store_true"
|
||
)
|
||
|
||
# 添加运行模式参数
|
||
parser.add_argument(
|
||
"--report",
|
||
const="pc,site,wap",
|
||
nargs="?",
|
||
help="指定运行模式：pc/site/wap，不指定则运行所有模式，多个模式使用英文逗号分隔",
|
||
)
|
||
|
||
# 添加 web 服务器参数
|
||
parser.add_argument(
|
||
"--web", action="store_true", help="启动 web 服务器，启动后将忽略其他选项"
|
||
)
|
||
|
||
# 如果没有传入任何参数，显示帮助信息
|
||
if len(sys.argv) == 1:
|
||
parser.print_help()
|
||
sys.exit(0)
|
||
|
||
args = parser.parse_args()
|
||
logger.debug(f"{args=}")
|
||
|
||
# 处理模式参数
|
||
if args.report:
|
||
reports = [m.strip() for m in args.report.split(",")]
|
||
valid_modes = ["pc", "site", "wap"]
|
||
invalid_modes = [m for m in reports if m not in valid_modes]
|
||
if invalid_modes:
|
||
parser.error(f'无效的运行模式: {", ".join(invalid_modes)}')
|
||
args.report = reports
|
||
else:
|
||
args.report = ["pc", "site", "wap"]
|
||
|
||
# 检查输入的文件是否存在
|
||
if args.crawl_file and not os.path.exists(args.crawl_file):
|
||
parser.error(f"--crawl_file 指定的文件 {args.crawl_file} 不存在")
|
||
|
||
# 检查配置文件是否存在
|
||
if not os.path.exists(args.config):
|
||
parser.error(f"配置文件不存在: {args.config}")
|
||
|
||
self.args = args
|
||
|
||
def start_cli(self):
|
||
"""开启 CLI 模式"""
|
||
if self.args.crawl:
|
||
crawl = CrawlEngine()
|
||
crawl.cli_start(self.args.crawl, self.args.crawl_file)
|
||
crawl.cli_wait()
|
||
crawl.stop()
|
||
elif self.args.evidence:
|
||
evidence = EvidenceEngine()
|
||
evidence.cli_start()
|
||
evidence.stop()
|
||
elif self.args.report:
|
||
reporter = Reporter(self.args.report)
|
||
reporter.cli_start()
|
||
reporter.stop()
|
||
|
||
def start_web(self):
|
||
"""开启 Web 模式"""
|
||
pass
|
||
|
||
def run(self):
|
||
"""运行应用"""
|
||
|
||
# 解析命令行参数
|
||
self.parse_args()
|
||
|
||
# 加载配置文件
|
||
self.config = load_config(self.args.config)
|
||
logger.info(f"加载配置文件 {self.args.config} 成功")
|
||
|
||
# 连接数据库
|
||
try:
|
||
self.db_engine = connect_db(self.config)
|
||
logger.info(f"连接数据库 {self.config.database.database} 成功")
|
||
except sqlalchemy.exc.OperationalError as e:
|
||
# 如果错误类型是数据库不存在，询问用户是否执行初始化操作
|
||
if "1049" in str(e):
|
||
logger.info("数据库不存在，尝试初始化数据库")
|
||
create_database(self.config)
|
||
logger.info("数据库初始化成功，尝试连接数据库")
|
||
self.db_engine = connect_db(self.config)
|
||
logger.info(f"连接数据库 {self.config.database.database} 成功")
|
||
else:
|
||
logger.error(f"连接数据库失败，请检查配置文件或数据库服务是否正常: {e}")
|
||
sys.exit(1)
|
||
|
||
# 如果指定了 --web 参数，启动 web 服务器，忽略其他选项
|
||
if self.args.web:
|
||
logger.info("启动 Web 模式")
|
||
return self.start_web()
|
||
else:
|
||
logger.info("启动 CLI 模式")
|
||
return self.start_cli()
|