JavaScript 编写的迷你 Lisp 解释器

时间:2022-01-27 16:38:51

感谢@李欲纯 的热心翻译。如果其他朋友也有不错的原创或译文,可以尝试推荐给伯乐在线。】

Little Lisp是一个解释器,支持函数调用、lambda表达式、 变量绑定(let)、数字、字符串、几个库函数和列表(list)。我写这个是为了在Hacker School(一所位于纽约的程序员培训学校)的一个闪电秀中展示写一个解释器不是很难。一共只有116行的JavaScript代码,下文我会解释它是如何运行的。

 

首先,让我们学习一些Lisp。

Lisp基础

这是一个原子,最简单的Lisp形式:

1 1

这是另一个原子,一个字符串:

1 "a"

这是一个空列表:

()

这是一个包含了一个原子的列表:

1 (1)

这是一个包含了两个原子的列表:

1 (1
2)

这是一个包含了一个原子和另一个列表的列表:

1 (1
(2))

这是一个函数调用。函数调用由一个列表组成,列表的第一个元素是要调用的函数,其余的元素是函数的参数。函数first接受一个参数(1 2),返回1

123 (first
(1 2))
  => 1

这是一个lambda表达式,即一个函数定义。这个函数接受一个参数x,然后原样返回它。

12 (lambda
(x)
 x)

这是一个lambda调用。lambda调用由一个列表组成,列表的第一个元素是一个lambda表达式,其余的元素是由lambda表达式所定义的函数的参数。这个lambda表达式接受一个参数"lisp"并返回它。

12345 ((lambda
(x)
  x) "Lisp")  => "Lisp"

 

Little Lisp是如何运行的

写一个Lisp解释器真的很容易。

Little Lisp的代码包括两部分:分析器和解释器

分析器

分析分两个阶段:分词(tokenizing)和加括号(parenthesizing)。

tokenize()接受一个Lisp字符串,在每个括号周围加上空格,然后用空格作为分隔符拆分整个字符串。举个例子,它接受((lambda (x) x) "Lisp"),将它变换为( ( lambda ( x ) x ) "Lisp" ),然后进一步变换为['(', '(', 'lambda', '(', 'x', ')', 'x', ')', '"Lisp"', ')']

123456 var
tokenize =
function(input) {
  return
replace(/\(/g,
' ( ')
        .replace(/\)/g,' ) ')        .trim()        .split(/\s+/);};

parenthesize()接受由tokenize()产生的词元列表,生成一个嵌套的数组来模拟出Lisp代码的结构。在这个嵌套的数组中的每个原子会被标记为标识符或文字表达式。例如,['(', '(', 'lambda', '(', 'x', ')', 'x', ')', '"Lisp"', ')']被变换为:

123 [[{
type: 'identifier', value: 'lambda' }, [{ type: 'identifier', value: 'x' }],
  { type: 'identifier', value: 'x' }], { type: 'literal', value: 'Lisp' }]

parenthesize()一个挨一个地遍历词元。如果当前词元是左括号,就开始构建一个新的数组。如果当前词元是原子,就标记其类型并将其添加到当前数组中。如果当前词元是右括号,就停止当前数组的构建,继续构建外层的数组。

1234567891011121314151617 var
parenthesize =
function(input, list) {
     if
(list === undefined) {
       return
parenthesize(input, []);
     }else
{
       var
token = input.shift();
       if
(token === undefined) {
         return
list.pop();
       }else
if
(token === "(") {
         list.push(parenthesize(input, []));        return
parenthesize(input, list);
      }else
if
(token === ")") {
        return
list;
      }else
{
        return
parenthesize(input, list.concat(categorize(token)));
      }    }};

parenthesize()第一次被调用时,input参数包含由tokenize()返回的词元列表数组。例如:

1 ['(',
'(', 'lambda', '(', 'x', ')', 'x', ')', '"Lisp"', ')']

第一次调用parenthesize()时,参数listundefined,第2-3行运行,递归调用parenthesize()list被设置为空数组。

在递归中,第5行运行,input的第一个左括号被移除。第9行中,传一个新的空数组给递归调用,开始一个新的空列表。

在新的递归中,第5行运行,从input中移除了另一个左括号。与前面类似,第9行中,传另一个新的空数组给递归调用,开始另一个新的空列表。

继续进入递归,现在input['lambda', '(', 'x', ')', 'x', ')', '"Lisp"', ')']。第14行运行,token被设置为lambda,调用categorize()函数并传递lambda作为参数。categorize()的第7行运行,返回一个对象,其type属性被设置为identifiervalue属性被设置为lambda

123456789 var
categorize =
function(input) {
  if
(!
isNaN(parseFloat(input))) {
     return
{ type:
'literal', value: parseFloat(input) };
   }else
if
(input[0] === '"'
&& input.slice(-
1) === '"') {
     return
{ type:
'literal', value: input.slice(1, -1) };
   }else
{
    return
{ type:
'identifier', value: input };
  }};

parenthesize()的第14行向list中加入由categorize()返回的对象,然后用input的剩余元素和list进一步递归。

1234567891011121314151617 var
parenthesize =
function(input, list) {
  if
(list ===
undefined) {
    return
parenthesize(input, []);
 }else
{
    var
token = input.shift();
    if
(token ===
undefined) {
      return
list.pop();
    }else
if
(token === "(") {
      list.push(parenthesize(input, []));      return
parenthesize(input, list);
     }else
if
(token === ")") {
      return
list;
    }else
{
      return
parenthesize(input, list.concat(categorize(token)));
    }  } };

在递归中,下一个词元是括号。parenthesize()的第9行用一个新的空数组递归创建一个新的空列表,进入新的递归,这时input['x', ')', 'x', ')', '"Lisp"', ')']。第14行运行,token被设置成x,这样创建了一个新的对象,其值为x,类型为identifier,然后将这个对象加入到list中,然后接着递归。

在递归中,下一个词元是右括号,第12行运行,返回完成了的list[{ type: 'identifier', value: 'x' }]

parenthesize()继续递归直到它处理完全部的输入词元,最后返回由包含了类型信息的原子所组成的嵌套数组。

parse()tokenize()parenthesize()的组合调用:

123 var
parse =
function(input) {
  return
parenthesize(tokenize(input));
};

如果原始的输入给的是((lambda (x) x) "Lisp"),则分析器给出的最后输出是:

123 [[{
type: 'identifier', value: 'lambda' }, [{ type: 'identifier', value: 'x' }],
  { type: 'identifier', value: 'x' }], { type: 'literal', value: 'Lisp' }]

 

解释器

在分析结束后,解释就开始了。

interpret()接收parse()的输出并执行它。提供上例中的输出,interpret()会构造一个lambda表达式,然后用"Lisp"作为参数调用它。lambda调用会返回"Lisp",这就是整个程序的输出。

除了要执行的输入外,interpret()还接收一个执行上下文。执行上下文是变量和变量对应的值所存储的地方。当一段Lisp代码被interpret()执行时,执行上下文包含着这段代码可访问的变量。

这些变量是分层存储的。当前作用域的的变量处在最底层,在包含域中的变量处在上一层,包含域的上一层包含域中的变量处于更上层,依次类推。例如,在下面的代码中:

12345 ((lambda
(a)
  ((lambda (b)    (b a))   "b")) "a")

第3行,执行上下文有两个活动的作用域。内层的lambda形成了当前作用域。外层的lambda形成了包含作用域。当前作用域中b被绑定到"b",包含作用域中a被绑定到"a"。当第3行运行时,解释器尝试在作用域中去查找b,它检查当前作用域,发现了b并返回它的值。还是在第3行上,解释器尝试去查找a,它检查当前作用域,结果没找到a,所以它尝试去包含域找,在那里它找到了a并返回它的值。

在Little Lisp中,执行上下文用一个对象来表示,这个对象通过调用Context构造函数来生成。这个函数接受scope参数,即一个由在当前作用域中的变量和值组成的对象;还接受parent参数,如果parentundefined,作用域即位于顶层,或者说是全局的。

123456789101112 var
Context =
function(scope, parent) {
   this.scope = scope;   this.parent = parent;    this.get
=
function(identifier) {
     if
(identifier
in
this
.scope) {
       return
this
.scope[identifier];
     }else
if
(this.parent !== undefined) {
       return
this
.parent.get(identifier);
    }  };};

我们已看到((lambda (x) x) "Lisp")是如何被分析的,现在让我们看看分析过后的代码是如何被执行的。

1234567891011 var
interpret = function(input, context) {
 if (context === undefined) {   return interpret(input, new Context(library));   } else if (input instanceof Array) {  return interpretList(input, context); } else if (input.type === "identifier") {  return context.get(input.value); } else {   return input.value; }};

interpret()第一次被调用时,contextundefined,第2-3行运行,创建一个执行上下文。

当初始上下文被实例化时,构造函数接受了一个叫library的对象。这个对象包含了内建在语言中的函数:firstrestprint。这些函数是用JavaScript写的。

interpret()用原始的输入和新的上下文进行递归。

input包含了上节中例子产生的输出:

123 [[{
type: 'identifier', value: 'lambda' }, [{ type: 'identifier', value: 'x' }],
  { type: 'identifier', value: 'x' }], { type: 'literal', value: 'Lisp' }]

因为input是数组而且context已定义,第4-5行运行,interpretList()被调用。

123456789101112 var
interpretList =
function(input, context) {
     if
(input[0].value
in
special) {
       return
special[input[0].value](input, context);
     }else
{
       var
list = input.map(
function(x) { return
interpret(x, context); });
       if
(list[0]
instanceof
Function) {
         return
list[0].apply(undefined, list.slice(1));
       }else
{
         return
list;
      }    }};

interpretList()中,第5行遍历input数组,对每个元素调用interpret()。当interpret()在lambda定义上调用时,interpretList()再一次被调用。这次,interpretList()input参数为:

12 [{
type: 'identifier', value: 'lambda' }, [{ type: 'identifier', value: 'x' }],
  { type: 'identifier', value: 'x' }]

interpretList()的第3行被调用,因为数组的第一个元素lambda是特殊形式。lambda()被调用来创建lambda函数。

12345678910111213 var
special = {
     lambda:function(input, context) {       return
function
() {
         var
lambdaArguments = arguments;
         var
lambdaScope = input[1].reduce(
function(acc, x, i) {
           acc[x.value] = lambdaArguments[i];           return
acc;
         }, {});         return
interpret(input[2],
new
Context(lambdaScope, context));
      };    }};

special.lambda()接受input中定义lambda的部分,返回一个函数,当这个函数被调用时,会对一些参数调用这个lambda函数。

第3行开始lambda调用函数的定义。第4行保存了传递给lambda调用的参数。第5行开始为lambda调用创建一个新的作用域,收集input中定义lambda的参数的部分: [{ type: 'identifier', value: 'x' }],针对input中的每一个lambda形参和传递给lambda的对应实参,往lambda作用域中添加一个键值对。第10行对lambda的主体调用interpret(){ type: 'identifier', value: 'x' }。它传递给的lambda上下文包含lambda的作用域和父上下文。

lambda现在就变成了被special.lambda()返回的函数。

interpretList() 继续遍历input数组,对列表的第二个元素调用interpret():字符串"Lisp"

1234567891011 var
interpret =
function(input, context) {
     if
(context === undefined) {
       return
interpret(input,
new
Context(library));
     }else
if
(input instanceof
Array) {
       return
interpretList(input, context);
     }else
if
(input.type === "identifier") {
       return
context.get(input.value);
     }else
{
       return
input.value;
    }};

interpret()的第9行运行,这行做的事情仅仅是返回字面量对象的value属性'Lisp'interpretList()的第5行的map操作至此完成。list成为:

12 [function(args)
{ /* code to invoke lambda */ },
 'Lisp']

interpretList()的第6行运行,发现List的第一个元素是一个Javascript函数,这意味着list是一个函数调用。第7行运行,调用lambda函数,并将list的剩余部分作为参数传递。

123456789101112 var
interpretList =
function(input, context) {
     if
(input[0].value
in
special) {
       return
special[input[0].value](input, context);
     }else
{
       var
list = input.map(
function(x) { return
interpret(x, context); });
       if
(list[0]
instanceof
Function) {
         return
list[0].apply(undefined, list.slice(1));
       }else
{
         return
list;
      }    }};

在lambda调用函数中,第8行对lambda主体调用interpret(){ type: 'identifier', value: 'x' }

123456789 function()
{
     var lambdaArguments = arguments;     var lambdaScope = input[1].reduce(function(acc, x, i) {       acc[x.value] = lambdaArguments[i];       return acc;     }, {});      return interpret(input[2], new Context(lambdaScope, context));};

interpret()的第6行发现input是一个标识符类型的原子,第7行去上下文里查找标识符x,返回'Lisp'

1234567891011 var
interpret =
function(input, context) {
     if
(context === undefined) {
       return
interpret(input,
new
Context(library));
     }else
if
(input instanceof
Array) {
       return
interpretList(input, context);
     }else
if
(input.type === "identifier") {
       return
context.get(input.value);
     }else
{
       return
input.value;
    }};

'Lisp'被lambda调用函数返回,接着被interpretList()返回,接着被interpret()返回,就是这样。

全部的代码见GitHub repository。还可以看看lis.py,一个优秀而简单的Scheme解释器,由Peter Norvig用Python编写。