Python-yield理解篇

4,436次阅读
没有评论

迭代器简介

通过列表生成式,我们可以直接创建一个列表。但是,受到内存限制,列表容量肯定是有限的。而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面绝大多数元素占用的空间都白白浪费了。

所以,如果列表元素可以按照某种算法推算出来,那我们是否可以在循环的过程中不断推算出后续的元素呢?这样就不必创建完整的list,从而节省大量的空间。在Python中,这种一边循环一边计算的机制,称为生成器:generator。

迭代器初级应用

要创建一个generator,有很多种方法。第一种方法很简单,只要把一个列表生成式的[]改成(),就创建了一个generator:

<span class="prompt">>>> </span>L = [x * x <span class="keyword">for</span> x <span class="keyword">in</span> range(<span class="number">10</span>)]
<span class="prompt">>>> </span>L
[<span class="number">0</span>, <span class="number">1</span>, <span class="number">4</span>, <span class="number">9</span>, <span class="number">16</span>, <span class="number">25</span>, <span class="number">36</span>, <span class="number">49</span>, <span class="number">64</span>, <span class="number">81</span>]
<span class="prompt">>>> </span>g = (x * x <span class="keyword">for</span> x <span class="keyword">in</span> range(<span class="number">10</span>))
<span class="prompt">>>> </span>g
<generator object <genexpr> at <span class="number">0x1022ef630</span>>

创建Lg的区别仅在于最外层的[]()L是一个list,而g是一个generator。

我们可以直接打印出list的每一个元素,但我们怎么打印出generator的每一个元素呢?

如果要一个一个打印出来,可以通过next()函数获得generator的下一个返回值:

>>> <span class="keyword">next</span>(g)
<span class="number">0</span>
>>> <span class="keyword">next</span>(g)
<span class="number">1</span>
>>> <span class="keyword">next</span>(g)
<span class="number">4</span>
>>> <span class="keyword">next</span>(g)
<span class="number">9</span>
>>> <span class="keyword">next</span>(g)
<span class="number">16</span>
>>> <span class="keyword">next</span>(g)
<span class="number">25</span>
>>> <span class="keyword">next</span>(g)
<span class="number">36</span>
>>> <span class="keyword">next</span>(g)
<span class="number">49</span>
>>> <span class="keyword">next</span>(g)
<span class="number">64</span>
>>> <span class="keyword">next</span>(g)
<span class="number">81</span>
>>> <span class="keyword">next</span>(g)
<span class="constant">Traceback</span> (most recent call last)<span class="symbol">:</span>
  <span class="constant">File</span> <span class="string">"<stdin>"</span>, line <span class="number">1</span>, <span class="keyword">in</span> <<span class="keyword">module</span>>
<span class="constant">StopIteration</span>

我们讲过,generator保存的是算法,每次调用next(g),就计算出g的下一个元素的值,直到计算到最后一个元素,没有更多的元素时,抛出StopIteration的错误。

当然,上面这种不断调用next(g)实在是太变态了,正确的方法是使用for循环,因为generator也是可迭代对象:

<span class="prompt">>>> </span>g = (x * x <span class="keyword">for</span> x <span class="keyword">in</span> range(<span class="number">10</span>))
<span class="prompt">>>> </span><span class="keyword">for</span> n <span class="keyword">in</span> g:
<span class="prompt">... </span>    print(n)
<span class="prompt">... </span>
<span class="number">0</span>
<span class="number">1</span>
<span class="number">4</span>
<span class="number">9</span>
<span class="number">16</span>
<span class="number">25</span>
<span class="number">36</span>
<span class="number">49</span>
<span class="number">64</span>
<span class="number">81</span>

所以,我们创建了一个generator后,基本上永远不会调用next(),而是通过for循环来迭代它,并且不需要关心StopIteration的错误。

generator非常强大。如果推算的算法比较复杂,用类似列表生成式的for循环无法实现的时候,还可以用函数来实现。

比如,著名的斐波拉契数列(Fibonacci),除第一个和第二个数外,任意一个数都可由前两个数相加得到:

1, 1, 2, 3, 5, 8, 13, 21, 34, …

斐波拉契数列用列表生成式写不出来,但是,用函数把它打印出来却很容易:

<span class="function"><span class="keyword">def</span> <span class="title">fib</span><span class="params">(max)</span>:</span>
    n, a, b = <span class="number">0</span>, <span class="number">0</span>, <span class="number">1</span>
    <span class="keyword">while</span> n < max:
        print(b)
        a, b = b, a + b
        n = n + <span class="number">1</span>
    <span class="keyword">return</span> <span class="string">'done'</span>

上面的函数可以输出斐波那契数列的前N个数:

<span class="prompt">>>> </span>fib(<span class="number">6</span>)
<span class="number">1</span>
<span class="number">1</span>
<span class="number">2</span>
<span class="number">3</span>
<span class="number">5</span>
<span class="number">8</span>
<span class="string">'done'</span>

仔细观察,可以看出,fib函数实际上是定义了斐波拉契数列的推算规则,可以从第一个元素开始,推算出后续任意的元素,这种逻辑其实非常类似generator。

也就是说,上面的函数和generator仅一步之遥。要把fib函数变成generator,只需要把print(b)改为yield b就可以了:

<span class="function"><span class="keyword">def</span> <span class="title">fib</span><span class="params">(max)</span>:</span>
    n, a, b = <span class="number">0</span>, <span class="number">0</span>, <span class="number">1</span>
    <span class="keyword">while</span> n < max:
        <span class="keyword">yield</span> b
        a, b = b, a + b
        n = n + <span class="number">1</span>
    <span class="keyword">return</span> <span class="string">'done'</span>

yield可以理解为return,对于yield之后的表达式返回,次也会保留现场的变量信息,如果存在

 m=<span class="keyword">yield</span> b

实际上就是将b的值赋给m,如果在程序代码中不存在相应的send操作。

这就是定义generator的另一种方法。如果一个函数定义中包含yield关键字,那么这个函数就不再是一个普通函数,而是一个generator:

>>> f = fib(6)
>>> f
<span class="tag"><<span class="title">generator</span> <span class="attribute">object</span> <span class="attribute">fib</span> <span class="attribute">at</span> <span class="attribute">0x104feaaa0</span>></span>

这里,最难理解的就是generator和函数的执行流程不一样。函数是顺序执行,遇到return语句或者最后一行函数语句就返回。而变成generator的函数,在每次调用next()的时候执行,遇到yield语句返回,再次执行时从上次返回的yield语句处继续执行。

举个简单的例子,定义一个generator,依次返回数字1,3,5:

<span class="function"><span class="keyword">def</span> <span class="title">odd</span><span class="params">()</span>:</span>
    print(<span class="string">'step 1'</span>)
    <span class="keyword">yield</span> <span class="number">1</span>
    print(<span class="string">'step 2'</span>)
    <span class="keyword">yield</span>(<span class="number">3</span>)
    print(<span class="string">'step 3'</span>)
    <span class="keyword">yield</span>(<span class="number">5</span>)

调用该generator时,首先要生成一个generator对象,然后用next()函数不断获得下一个返回值:

>>> o = odd()
>>> <span class="keyword">next</span>(o)
step <span class="number">1</span>
<span class="number">1</span>
>>> <span class="keyword">next</span>(o)
step <span class="number">2</span>
<span class="number">3</span>
>>> <span class="keyword">next</span>(o)
step <span class="number">3</span>
<span class="number">5</span>
>>> <span class="keyword">next</span>(o)
<span class="constant">Traceback</span> (most recent call last)<span class="symbol">:</span>
  <span class="constant">File</span> <span class="string">"<stdin>"</span>, line <span class="number">1</span>, <span class="keyword">in</span> <<span class="keyword">module</span>>
<span class="constant">StopIteration</span>

可以看到,odd不是普通函数,而是generator,在执行过程中,遇到yield就中断,下次又继续执行。执行3次yield后,已经没有yield可以执行了,所以,第4次调用next(o)就报错。

回到fib的例子,我们在循环过程中不断调用yield,就会不断中断。当然要给循环设置一个条件来退出循环,不然就会产生一个无限数列出来。

同样的,把函数改成generator后,我们基本上从来不会用next()来获取下一个返回值,而是直接使用for循环来迭代:

<span class="prompt">>>> </span><span class="keyword">for</span> n <span class="keyword">in</span> fib(<span class="number">6</span>):
<span class="prompt">... </span>    print(n)
...
<span class="number">1</span>
<span class="number">1</span>
<span class="number">2</span>
<span class="number">3</span>
<span class="number">5</span>
<span class="number">8</span>

但是用for循环调用generator时,发现拿不到generator的return语句的返回值。如果想要拿到返回值,必须捕获StopIteration错误,返回值包含在StopIterationvalue中:

<span class="prompt">>>> </span>g = fib(<span class="number">6</span>)
<span class="prompt">>>> </span><span class="keyword">while</span> <span class="built_in">True</span>:
<span class="prompt">... </span>    <span class="keyword">try</span>:
<span class="prompt">... </span>        x = next(g)
<span class="prompt">... </span>        print(<span class="string">'g:'</span>, x)
<span class="prompt">... </span>    <span class="keyword">except</span> StopIteration <span class="keyword">as</span> e:
<span class="prompt">... </span>        print(<span class="string">'Generator return value:'</span>, e.value)
<span class="prompt">... </span>        <span class="keyword">break</span>
...
g: <span class="number">1</span>
g: <span class="number">1</span>
g: <span class="number">2</span>
g: <span class="number">3</span>
g: <span class="number">5</span>
g: <span class="number">8</span>
Generator <span class="keyword">return</span> value: done

小结:从上面可以初步看到yield的用法,在一个函数中加入此函数变为迭代器函数,可以像一般的迭代器一样可以用来循环迭代。迭代器可以在一定程度上避免一些大数据处理带来的内存占用过大等问题,使用yield之后保证每次处理的都是一项内容,所以不会占用太多的资源。

迭代器协程应用

协程,又称微线程,纤程。英文名Coroutine。协程的概念很早就提出来了,但直到最近几年才在某些语言(如Lua)中得到广泛应用。子程序,或者称为函数,在所有语言中都是层级调用,比如A调用B,B在执行过程中又调用了C,C执行完毕返回,B执行完毕返回,最后是A执行完毕。所以子程序调用是通过栈实现的,一个线程就是执行一个子程序。子程序调用总是一个入口,一次返回,调用顺序是明确的。而协程的调用和子程序不同。协程看上去也是子程序,但执行过程中,在子程序内部可中断,然后转而执行别的子程序,在适当的时候再返回来接着执行。注意,在一个子程序中中断,去执行其他子程序,不是函数调用,有点类似CPU的中断。

下面看一个常见的生产者-消费者模型:

<span class="function"><span class="keyword">def</span> <span class="title">consumer</span><span class="params">()</span>:</span>
    r = <span class="string">''</span>
    <span class="keyword">while</span> <span class="built_in">True</span>:
        n = <span class="keyword">yield</span> r
        <span class="keyword">if</span> <span class="keyword">not</span> n:
            <span class="keyword">return</span>
        print(<span class="string">'[CONSUMER] Consuming %s...'</span> % n)
        r = <span class="string">'200 OK'</span>

<span class="function"><span class="keyword">def</span> <span class="title">produce</span><span class="params">(c)</span>:</span>
    c.send(<span class="built_in">None</span>)
    n = <span class="number">0</span>
    <span class="keyword">while</span> n < <span class="number">5</span>:
        n = n + <span class="number">1</span>
        print(<span class="string">'[PRODUCER] Producing %s...'</span> % n)
        r = c.send(n)
        print(<span class="string">'[PRODUCER] Consumer return: %s'</span> % r)
    c.close()

c = consumer()
produce(c)

上面是一个常见的生产者-消费者模型,以前在使用linux下c实现的过程中需要考虑到多线程锁机制来保证正常运行,但是这种锁机制如果应用出现一点差错会导致死锁的现象,然后使用协程就可以完全避免这样的问题出现。

注意(1): c.send(None)解析

#在c=consumer()运行之后得到的只是一个迭代器初始化过程,此时consumer函数本身并没有运行
#也就是说下面这个函数#1这句代码都没有运行
<span class="function"><span class="keyword">#def</span> <span class="title">consumer</span><span class="params">()</span>:</span>
 #   r = <span class="string">''            #1 </span>
 #   <span class="keyword">while</span> <span class="built_in">True</span>:       #2
 #       n = <span class="keyword">yield</span> r   #3
 #       <span class="keyword">if</span> <span class="keyword">not</span> n:     #4
 #          <span class="keyword">return     #5</span>
 #       print(<span class="string">'[CONSUMER] Consuming %s...'</span> % n)     #6
 #       r = <span class="string">'200 OK'   #7
#上面的代码中存在c.send(None),这个代码的作用就是
c.send(<span class="built_in">None</span>)
#上述代码的等效于
c.next()
#此时开始获取迭代器中的值,此时会有疑问,为什么不可以发送其他值?首先迭代器没有运行,你就尝试给它发送消息,它
#也不知道怎么处理,因此就会报错,因此必须先发送None

</span>

注意(2):

for  i in  consumer():
      print(i);
#注意到这个跟上面描述的情况就是不太一样了,此时并没有send(None)还有next()的代码
#但是你要知道for循环中会自动调用next函数的,所以就不用我们担心这个问题了

参考资料:

flyking博客

廖学峰博客

admin
版权声明:本站原创文章,由admin2015-12-17发表,共计4024字。
转载提示:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
评论(没有评论)