在Linux系统中，使用OpenSSL进行安全通信设置通常涉及以下几个步骤：

生成密钥对：

使用openssl genpkey命令生成私钥。使用openssl rsa或openssl ecparam命令生成公钥。

创建证书签名请求（CSR）：

使用openssl req命令创建CSR，这将包含你的公钥和一些身份信息。

获取证书：

将CSR提交给证书颁发机构（CA），或者如果你自己签发证书，可以使用openssl x509命令。

配置服务器和客户端：

在服务器端，你需要配置SSL/TLS协议，选择合适的密码套件，并指定证书和私钥文件。在客户端，你需要配置信任的CA证书，并指定要连接的服务器的证书或公钥。

建立安全连接：

使用openssl s_client命令测试SSL/TLS连接。在应用程序中使用SSL/TLS库（如OpenSSL库）来建立加密的通信。

下面是一些具体的命令示例：

生成私钥：

openssl genpkey -algorithm RSA -out private.key -aes256

生成CSR：

openssl req -new -key private.key -out certificate.csr -subj "/C=US/ST=YourState/L=YourCity/O=YourOrganization/CN=yourdomain.com"

自签名证书（仅用于测试，不建议用于生产环境）：

openssl x509 -req -days 365 -in certificate.csr -signkey private.key -out certificate.crt

配置服务器（以Apache为例）：编辑Apache的SSL配置文件（通常是/etc/httpd/conf.d/ssl.conf或/etc/apache2/sites-available/default-ssl.conf），确保以下配置正确：

SSLEngine onSSLCertificateFile /path/to/certificate.crtSSLCertificateKeyFile /path/to/private.keySSLCACertificateFile /path/to/ca_bundle.crtSSLProtocol all -SSLv2 -SSLv3SSLCipherSuite HIGH:!aNULL:!MD5

测试SSL连接：

openssl s_client -connect yourdomain.com:443

在应用程序中使用OpenSSL库：在你的程序中，你需要包含OpenSSL的头文件，并链接到OpenSSL库。然后，你可以使用OpenSSL提供的API来初始化SSL上下文、加载证书和私钥、建立连接等。

请注意，这些步骤可能会根据你的具体需求和环境有所不同。在生产环境中，强烈建议使用由受信任的CA签发的证书，并保持软件和库的最新状态以确保安全性。