要在Angular 6中使用键盘回车键关闭模态框，您可以按照以下步骤进行操作：

1. 首先，确保您已经安装了Angular Material和Angular CDK。您可以通过以下命令将它们添加到您的项目中：

npm install --save @angular/material @angular/cdk

2. 在您的模态框组件中，导入MatDialogRef和HostListener模块：

import { MatDialogRef } from '@angular/material/dialog';
import { HostListener } from '@angular/core';

3. 在构造函数中注入MatDialogRef：

constructor(public dialogRef: MatDialogRef) {}

4. 使用HostListener装饰器将键盘事件绑定到关闭模态框方法。在您的组件类中添加以下代码：

@HostListener('document:keydown.enter', ['$event'])
onKeydownHandler(event: KeyboardEvent) {
  this.dialogRef.close();
}

这将在用户按下回车键时触发onKeydownHandler方法，并关闭模态框。

完整示例代码：

import { Component, OnInit } from '@angular/core';
import { MatDialogRef } from '@angular/material/dialog';
import { HostListener } from '@angular/core';

@Component({
  selector: 'your-modal-component',
  templateUrl: './your-modal-component.component.html',
  styleUrls: ['./your-modal-component.component.css']
})
export class YourModalComponent implements OnInit {

  constructor(public dialogRef: MatDialogRef) {}

  ngOnInit() {}

  @HostListener('document:keydown.enter', ['$event'])
  onKeydownHandler(event: KeyboardEvent) {
    this.dialogRef.close();
  }
}

请注意，这个示例中的"YourModalComponent"应替换为您的实际模态框组件名称。