要使用AWS API网关私有API自定义域名，可以按照以下步骤进行设置：

1. 创建一个私有API。 可以使用AWS管理控制台或AWS CLI来创建私有API。以下是使用AWS CLI的示例命令：

   aws apigatewayv2 create-api --name MyPrivateAPI --protocol-type HTTP --target PrivateDNSName --cors-configuration AllowOrigins=["*"]
   

2. 创建一个自定义域名。

   aws apigatewayv2 create-domain-name --domain-name myprivateapi.example.com --domain-name-configuration DomainName=example.com,EndpointType=REGIONAL
   

3. 将自定义域名与私有API关联。

   aws apigatewayv2 create-api-mapping --api-id api-id --domain-name myprivateapi.example.com --stage mystage
   

4. 创建一个证书（可选）。 如果要使用HTTPS协议，可以创建一个ACM证书并将其与自定义域名关联。

   aws acm request-certificate --domain-name myprivateapi.example.com --validation-method DNS
   

5. 更新自定义域名的设置。 如果使用了证书，需要更新自定义域名的设置，将证书关联到域名上。

   aws apigatewayv2 update-domain-name --domain-name myprivateapi.example.com --domain-name-configuration DomainName=example.com,EndpointType=REGIONAL,CertificateArn=certificate-arn
   

6. 配置DNS。 在DNS服务提供商处添加一条CNAME记录，将自定义域名指向API网关的域名。例如，将CNAME记录myprivateapi.example.com指向abcdefg.execute-api.us-east-1.amazonaws.com。

完成以上步骤后，私有API就可以通过自定义域名访问了。