Dolphinscheduler单机搭建(从零开始)


前言

DolphinScheduler是一个分布式易用的大数据工作流调度系统,提供了可视化的web操作界面,帮助用户快速、高效地构建和调度大数据任务;支持分布式部署和单机部署两种方式。单机部署适用于小规模使用场景,可以在一台机器上快速搭建并运行。


本文将介绍如何在单机上部署DolphinScheduler

一、准备工作

在开始部署之前,确保你已经安装了以下软件和环境:

  • Java 8或更高版本
  • MySQL数据库
  • Hadoop和Hive(可选,用于执行Hadoop和Hive任务)
  • Centos服务器 (获取方法) (使用的链接工具是XShell)

安装包在下面链接中,这里给出了两个,按方便的来下,也可以自行去官网下载

如果没有安装,就按顺序操作,安装了可以直接到DolphinScheduler

二、安装JDK和Mysql

由于之前已经写过了,这里就直接放链接了

三、安装DolphinScheduler

步骤一:下载和解压DolphinScheduler

  1. DolphinScheduler官网下载或是前面网盘中下载
wget --no-check-certificate https://archive.apache.org/dist/dolphinscheduler/3.1.4/apache-dolphinscheduler-3.1.4-bin.tar.gz 
  1. 上传压缩包到服务器的/tmp/下,如果直接拖动上传不了可以下载lrzsz重试
cd /tmp

在这里插入图片描述

  1. 解压下载的压缩包到指定文件夹
mkdir -p /opt/soft/dolphinscheduler
tar -zxvf /tmp/apache-dolphinscheduler-3.1.4-bin.tar.gz -C /opt/soft/dolphinscheduler

步骤二:创建数据库

  1. 登录到MySQL数据库(这里输入密码不会显示,直接输就行)
msyql -u root -p

在这里插入图片描述
5. 创建一个新的数据库,并指定字符集和校对规则。例如,执行以下命令创建名为dolphinscheduler的数据库:

CREATE DATABASE dolphinscheduler DEFAULT CHARACTER SET utf8 COLLATE utf8_general_ci;

在这里插入图片描述

6.创建 dolphinscheduler 用户并授予操作 dolphinscheduler 数据库的权限(设置密码为dolphinscheduler)

CREATE USER 'dolphinscheduler'@'%' IDENTIFIED BY 'dolphinscheduler';

授予操作 dolphinscheduler 数据库的权限并刷新权限

GRANT ALL PRIVILEGES ON dolphinscheduler.* TO 'dolphinscheduler'@'%' IDENTIFIED BY 'dolphinscheduler';
flush privileges;

在这里插入图片描述
7.完成后可以退出Mysql使用dolphinscheduler 用户登录测试

mysql -u dolphinscheduler -p

在这里插入图片描述

步骤三:修改配置文件

  1. 修改 dolphinscheduler_env.sh 文件
vim /opt/soft/dolphinscheduler/apache-dolphinscheduler-3.1.4-bin/bin/env/dolphinscheduler_env.sh

内容如下:

# JAVA_HOME, will use it to start DolphinScheduler server
export JAVA_HOME=${JAVA_HOME:-/root/jdk1.8.0_11}   # 修改为自己的jdk安装目录

# 修改MySQL配置
# Database related configuration, set database type, username and password
export DATABASE=${DATABASE:-mysql}
export SPRING_PROFILES_ACTIVE=${DATABASE}
export SPRING_DATASOURCE_URL="jdbc:mysql://localhost:3306/dolphinscheduler?useUnicode=true&characterEncoding=UTF-8&useSSL=false"
export SPRING_DATASOURCE_USERNAME="dolphinscheduler"
### 配置 PostgreSQL 数据库用于 DolphinScheduler 单机部署单机环境中使用 PostgreSQL 作为 DolphinScheduler 的元数据库,需要完成以下几个方面的配置: #### 1. 安装和初始化 PostgreSQL 数据库 首先,在目标机器上安装 PostgreSQL 并启动服务。接着创建一个新的数据库实例以及相应的用户账户。 - 创建名为 `dolphinscheduler` 的数据库,并设置密码为复杂字符串以便安全访问[^2]。 ```sql CREATE DATABASE dolphinscheduler; CREATE USER ds_user WITH PASSWORD 'your_password'; GRANT ALL PRIVILEGES ON DATABASE dolphinscheduler TO ds_user; ``` #### 2. 初始化 SQL 脚本到新建立的 PostgreSQL 数据库中 下载官方提供的 `dolphinscheduler_postgresql.sql` 文件,并将其导入至刚创建好的 PostgreSQL 数据库里以构建必要的表结构和其他对象定义。 ```bash psql -U ds_user -d dolphinscheduler -f /path/to/dolphinscheduler_postgresql.sql ``` #### 3. 修改 DolphinScheduler 的配置文件来适配 PostgreSQL 连接参数 进入解压后的 DolphinScheduler 目录下找到主要配置文件路径通常位于 `${DS_HOME}/conf/application-postgres.properties` 中编辑如下字段匹配实际环境中的 PostgreSQL 设置[^3]: ```properties spring.datasource.driver-class-name=org.postgresql.Driver spring.datasource.url=jdbc:postgresql://localhost:5432/dolphinscheduler?useUnicode=true&characterEncoding=UTF-8&autoReconnect=true&serverTimezone=UTC spring.datasource.username=ds_user spring.datasource.password=your_password ``` 注意替换上述 URL 地址部分中的主机名 (`localhost`) 和端口号 (默认为 `5432`) 如果它们不同于标准值的话还需要调整时间区域选项(`serverTimezone=UTC`) 来适应本地化需求. #### 4. 启动 DolphinScheduler 服务 当所有前期准备工作完成后可以尝试运行以下命令开启各个组件的服务进程: ```bash cd ${DS_HOME} sh bin/start-all.sh ``` 此时应该能够正常查看日志确认各模块均已成功加载并且可以通过 Web UI 登陆管理界面验证整个系统的可用状态. ```python print("DolphinScheduler has been successfully deployed with PostgreSQL.") ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值