搜索
查看: 3197|回复: 0

[Other] 亚马逊云教程4:安装Anaconda,多python环境,运行jupyter notebook

[复制链接]

23

主题

37

帖子

370

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
370
发表于 2017-7-19 17:12:45 | 显示全部楼层 |阅读模式
亚马逊云教程4:安装Anaconda,多python环境,运行jupyter notebook 原文链接

概要:安装多python环境管理软件conda,创建并管理多个python环境,后台运行jupyter notebook,然后在浏览器中运行python代码。
读者:准备在云上使用python的朋友
时间:6000字,阅读12min,操作20min
前提:亚马逊云教程3:文件传输,扩大存储,S3,快速输入命令
  日常工作生活中小型的数据分析任务我们可能会用纸、笔、尺子和计算器来完成。重复性工作较多的任务可能选择用Excel。当数据量和数据的特殊性不断增加时,比如我们要分析生物里面的DNA数据或金融市场中的数据,数据分析员一般会选择用编程语言来完成。听到编程语言,大家不用觉得它很难,它很高级或怎么样。其实,当我们深入到每一个数与数之间的运算时,用编程语言去完成分析任务和使用计算器是很类似的。我们在使用编程语言告诉计算机该使用什么数据,做什么运算,运算结果存放在哪里。这样就省去了使用计算器时,我们要用眼睛去寻找特定的数据、在计算器上按下加减乘除、把结果抄写在纸上这些繁琐的步骤。当编程语言写好了之后(也称为代码写好了之后),就算我们的数据换了,只要格式(数据的组织方式)没变,我们就可以重复使用这段代码去分析所有这样子的数据。这也是分析员们喜欢使用编程语言去分析数据的一个原因。
  在众多编程语言中,python是一门被广泛使用的语言。简要列举几个python被经常使用的领域:人工智能,生物数据,金融数据,图像分析,网站建设。其被广泛运用的原因至少要归功于两点:1)python容易学;2)python有大量别人已写好的包。Python代码非常接近英语自然语言(人们说话时使用的语言),这使得学过其他编程语言的人甚至是完全没学过编程语言的人可以快速学习并运用python解决生活中的问题。而学过python之后,又可以帮助你理解其他语言。Python有许多其他人已经写好的代码,他们把有关联的代码封装起来,称之为包(模块、库,英文为package,module,library)。
  一个比喻就是,一段代码就像一篇文章或一个知识点,可以解决一个特定的问题,而一个包就像一本书,里面有很多文章,这本书就是一个工具箱,可以用于解决一类问题。随着你慢慢地学习,你会积累许多书,形成一个图书馆。而当你经验越来越多时,你会接触到不同领域的问题,如生物、金融等。这时你可以选择把生物和金融的书都放进这一个图书馆,也可以建立两个如书馆,生物相关的包放进生物馆,金融相关的包放进金融馆。这样,你要处理生物问题时就走进生物馆工作,要处理金融问题时就走进金融馆工作,在各自馆内,你就可以快速寻找自己想用的书。
  我们把这些不同的图书馆称为python不同的虚拟环境,每次使用python时,可以选用其中一个环境。不同的环境也可以同时运行。也就是说,你可以同时给生物馆和金融馆安排任务。Anaconda是管理多个python虚拟环境的一个软件。

安装Anaconda
之前第2讲中讲到安装软件的两种方法,一个是使用包管理器 apt安装,另外一个是编译源码。一般而言,编译源码会相对复杂,不过Anaconda官网做了一个文件,通过那个文件我们可以快速编译并安装Anaconda,同时也能保证我们使用的软件是官方最新的。我们可以谷歌搜索“Anaconda”,进入其下载页面,截止写作时间,最新版是4.3.1。Python有不同的版本,目前用的多的是,python2.7和python3系列的。就像微软的office word有2007版,也有最新的2016版的。因为Anaconda是用来管理多个python环境的,不管我们这里选择什么,我们后面还是可以创建另外一个版本的环境,所以我们可以选择其中任意一个进行安装。这里我用 Python 3.6 作为例子。注意,你使用本地电脑进入这个下载页面时,它会自动侦测你使用的系统,然后显示出相应的下载页面,我们要切换到“Download for Linux”以获取Linux系统的下载链接。其命令行安装程序(64-BIT INSTALLER (474M))的下载地址是“https://repo.continuum.io/archive/Anaconda3-4.3.1-Linux-x86_64.sh”。我们登录到服务器,下载它,安装Anaconda。
[AppleScript] 纯文本查看 复制代码
➜  ~ ssh [email]roden@35.160.40.187[/email] # 登录服务器
Welcome to Ubuntu 16.04.2 LTS (GNU/Linux 4.4.0-1016-aws x86_64)
... # 省略多行
Last login: Mon May 29 17:26:28 2017 from 73.140.86.20
roden@ip-172-31-2-87:~$ ls
bwa  disk_1  download
roden@ip-172-31-2-87:~$ cd download/
roden@ip-172-31-2-87:~/download$ ls
s3_private.txt  s3_test.txt  upload_test.txt
roden@ip-172-31-2-87:~/download$ wget [url]https://repo.continuum.io/archive/Anaconda3-4.3.1-Linux-x86_64.sh[/url] # 下载安装程序
--2017-05-30 23:10:18--  [url]https://repo.continuum.io/archive/Anaconda3-4.3.1-Linux-x86_64.sh[/url]
... # 省略多行
Anaconda3-4.3.1-Linux-x8 100%[==================================>] 474.30M  55.5MB/s    in 8.7s
2017-05-30 23:10:26 (54.5 MB/s) - ‘Anaconda3-4.3.1-Linux-x86_64.sh’ saved [497343851/497343851]
roden@ip-172-31-2-87:~/download$ ls
Anaconda3-4.3.1-Linux-x86_64.sh  s3_private.txt  s3_test.txt  upload_test.txt
然后我们根据官网下载页面的提示进行安装。
[AppleScript] 纯文本查看 复制代码
roden@ip-172-31-2-87:~/download$ bash Anaconda3-4.3.1-Linux-x86_64.sh
Welcome to Anaconda3 4.3.1 (by Continuum Analytics, Inc.)
In order to continue the installation process, please review the license
agreement.
Please, press ENTER to continue
>>># 这里按下回车键,之后进入到许可协议。
# anaconda遵循3-clause BSD License(三句版BSD协议)
# 阅读完第一页后用空格进行翻页。全部读完后会出现下面的提示。
Do you approve the license terms? [yes|no]
>>> yes # 如果同意许可协议,就输入yes进行安装。
Anaconda3 will now be installed into this location:
/home/roden/anaconda3
  - Press ENTER to confirm the location
  - Press CTRL-C to abort the installation
  - Or specify a different location below
[/home/roden/anaconda3] >>> # 直接按回车,这样会使用默认的安装路径。
PREFIX=/home/roden/anaconda3
... # 此处省略多行
Python 3.6.0 :: Continuum Analytics, Inc.
creating default environment...
installation finished.
Do you wish the installer to prepend the Anaconda3 install location
to PATH in your /home/roden/.bashrc ? [yes|no]
[no] >>> yes # 这里在询问是否要把Anaconda的安装位置添加到环境变量PATH中,输入yes。
# 这样会确保我们之后每次登录服务器的时候,都可以直接使用conda这个命令
# 感兴趣的朋友可以搜索资料深入学习一下。
Prepending PATH=/home/roden/anaconda3/bin to PATH in /home/roden/.bashrc
A backup will be made to: /home/roden/.bashrc-anaconda3.bak
For this change to become active, you have to open a new terminal.
Thank you for installing Anaconda3!
Share your notebooks and packages on Anaconda Cloud!
Sign up for free: [url]https://anaconda.org[/url]
roden@ip-172-31-2-87:~/download$ rm Anaconda3-4.3.1-Linux-x86_64.sh # 安装成功,删除安装文件
我们退出一下服务器,再次登录,之后就能使用Anaconda了。其调用方法是该单词的词尾 conda。
[AppleScript] 纯文本查看 复制代码
roden@ip-172-31-2-87:~/download$ conda # 尝试调用,发现不行
conda: command not found
roden@ip-172-31-2-87:~/download$ logout # 直接按control D退出服务器
Connection to 35.160.40.187 closed.
➜  ~ ssh [email]roden@35.160.40.187[/email] # 再次登录
Welcome to Ubuntu 16.04.2 LTS (GNU/Linux 4.4.0-1016-aws x86_64)
...
Last login: Tue May 30 22:56:42 2017 from 69.91.190.9
roden@ip-172-31-2-87:~$ conda # 再次尝试调用,会发现输出了帮助信息,也就是可以使用了
usage: conda [-h] [-V] command ...
conda is a tool for managing and deploying applications, environments and packages.
Options:
positional arguments:
  command
    info         Display information about current conda install.
    help         Displays a list of available conda commands and their help
                 strings.
    list         List linked packages in a conda environment.
    search       Search for packages and display their information. The input
                 is a Python regular expression. To perform a search with a
                 search string that starts with a -, separate the search from
                 the options with --, like 'conda search -- -h'. A * in the
                 results means that package is installed in the current
                 environment. A . means that package is not installed but is
                 cached in the pkgs directory.
    create       Create a new conda environment from a list of specified
                 packages.
    install      Installs a list of packages into a specified conda
                 environment.
    update       Updates conda packages to the latest compatible version. This
                 command accepts a list of package names and updates them to
                 the latest versions that are compatible with all other
                 packages in the environment. Conda attempts to install the
                 newest versions of the requested packages. To accomplish
                 this, it may update some packages that are already installed,
                 or install additional packages. To prevent existing packages
                 from updating, use the --no-update-deps option. This may
                 force conda to install older versions of the requested
                 packages, and it does not prevent additional dependency
                 packages from being installed. If you wish to skip dependency
                 checking altogether, use the '--force' option. This may
                 result in an environment with incompatible packages, so this
                 option must be used with great caution.
    upgrade      Alias for conda update. See conda update --help.
    remove       Remove a list of packages from a specified conda environment.
    uninstall    Alias for conda remove. See conda remove --help.
    config       Modify configuration values in .condarc. This is modeled
                 after the git config command. Writes to the user .condarc
                 file (/home/roden/.condarc) by default.
    clean        Remove unused packages and caches.
    package      Low-level conda package utility. (EXPERIMENTAL)
optional arguments:
  -h, --help     Show this help message and exit.
  -V, --version  Show the conda version number and exit.
other commands, such as "conda build", are avaialble when additional conda
packages (e.g. conda-build) are installed
roden@ip-172-31-2-87:~$ conda info --envs # 查看当前已有的环境
# conda environments:
#
root                  *  /home/roden/anaconda3 # 只用一个名字叫root的,python3的环境
roden@ip-172-31-2-87:~$ python # 调用python
Python 3.6.0 |Anaconda 4.3.1 (64-bit)| (default, Dec 23 2016, 12:22:00)
# 会看到上面一行使用的是Anaconda的Python3.6
[GCC 4.4.7 20120313 (Red Hat 4.4.7-1)] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> # 按control D退出Python
roden@ip-172-31-2-87:~$
多Python环境
前面已经说到,当我们要处理一类特定的任务的时候,需要一些相联系的包,这时我们可以创建一个python的虚拟环境。而这个虚拟环境的创建,最开始需要决定的就是python的版本。目前流行的有python2.7和python3系列的版本。我们安装的是Anaconda3,自带的是python3.6的版本。所以当我们直接在命令行输入 python时,调用的就是python3.6了。不过我们可以使用 conda去安装其他版本的python。下面的命令在服务器上运行。
[AppleScript] 纯文本查看 复制代码
roden@ip-172-31-2-87:~$ conda create -n py27 python=2.7
# conda是软件的名字
# create是conda中创建新环境的指令
# -n 是--name 的缩写,新环境的名字
# python=2.7 是告诉conda,帮我们创建python2.7的环境
Fetching package metadata .........
Solving package specifications: .
Package plan for installation in environment /home/roden/anaconda3/envs/py27:
The following NEW packages will be INSTALLED:
    openssl:    1.0.2l-0
    pip:        9.0.1-py27_1
    python:     2.7.13-0
    readline:   6.2-2
    setuptools: 27.2.0-py27_0
    sqlite:     3.13.0-0
    tk:         8.5.18-0
    wheel:      0.29.0-py27_0
    zlib:       1.2.8-3
Proceed ([y]/n)?
openssl-1.0.2l 100% |###########################################################################################| Time: 0:00:00  15.56 MB/s
...
pip-9.0.1-py27 100% |###########################################################################################| Time: 0:00:00  37.83 MB/s
#
# To activate this environment, use:
# > source activate py27
#
# To deactivate this environment, use:
# > source deactivate py27
#
roden@ip-172-31-2-87:~$
然后我们按照提示的 source activate py27来启用这个环境。
[AppleScript] 纯文本查看 复制代码
roden@ip-172-31-2-87:~$ source activate py27 # 启用py27这个环境
(py27) roden@ip-172-31-2-87:~$ 
# 可以看到这一行提示符前面有(py27)这个提示,代表我们当前在py27这个环境里面
(py27) roden@ip-172-31-2-87:~$ python # 此时我们运行python时,就可以看到下面显示的2.7
Python 2.7.13 |Continuum Analytics, Inc.| (default, Dec 20 2016, 23:09:15)
[GCC 4.4.7 20120313 (Red Hat 4.4.7-1)] on linux2
Type "help", "copyright", "credits" or "license" for more information.
Anaconda is brought to you by Continuum Analytics.
Please check out: [url]http://continuum.io/thanks[/url] and [url]https://anaconda.org[/url]
>>> 3/2 # 在python2.7中,两个整数相除的结果是截断取整,3/2=1.5, 后面的.5 被截断了,就成了1。
1
>>> # 按control D退出
(py27) roden@ip-172-31-2-87:~$ source deactivate py27 # 退出py27环境
roden@ip-172-31-2-87:~$ # 可以看到没有(py27)这个提示了
roden@ip-172-31-2-87:~$ python # 再运行python时,就是默认的3.6了。
Python 3.6.0 |Anaconda 4.3.1 (64-bit)| (default, Dec 23 2016, 12:22:00)
[GCC 4.4.7 20120313 (Red Hat 4.4.7-1)] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> 3/2 # 在python3.6环境中,两个整数相除的结果是小数,所以3/2可以得到1.5
1.5
>>> 4/2 # 4/2=2,但是结果会显示小数,所以是2.0
2.0
我们还可以在打开一个shell窗口,连接到服务器,可以使用和当前窗口相同或者不同的python环境运行代码。这样,我们就可以在不同的环境之间自由切换了。而且不同的环境里面,可以安装其自己的包。也就是可以往两个不同的图书馆里面放进你想放的书。

运行jupyter notebook
在前面的例子中,我们是在命令行里面在使用python。我们输入的命令,和计算之后的结果,在我们关掉那个shell之后就没有了。为了方便之后查看代码运行结果、保存已输入的代码、同他人分享代码和结果,我们可以使用jupyter notebook这个东西。它的功能就是创建一个笔记本,我们可以在里面输入代码并且运行然后显示结果,之后我们还可以下载这个笔记本,分享给别人。相比命令行,它也给了我们一个可视化的窗口,因为编写和运行笔记本的地方在浏览器里面。我们可以在jupyter notebook中创建不同环境的笔记本,比如python3.6,python2.7,甚至是其他语言的,比如R,bash等等。我们通过上面的方法安装Anaconda的时候,其实已经把jupyter notebook安装了。接下来我们看下怎么运行并且访问它。
1. 配置jupyter notebook配置文件
[AppleScript] 纯文本查看 复制代码
roden@ip-172-31-2-87:~$ jupyter notebook --generate-config # 生成配置文件
Writing default config to: /home/roden/.jupyter/jupyter_notebook_config.py
# 这个命令会创建一个新文件,路径在上面的输出里面给出了
# 我们接下来对该文件做一点修改,具体见下文。
roden@ip-172-31-2-87:~$ vi /home/roden/.jupyter/jupyter_notebook_config.py
roden@ip-172-31-2-87:~$

我们要对该文件做出以下更改(以下行号为写作时的,之后可能会有些许不同):
  • 第158行,把 #c.NotebookApp.ip = 'localhost' 改为 c.NotebookApp.ip ='*'。首先,我们去掉了#注释符,也就是把这一行启用了。然后我们把localhost改成*,意思是说,让全世界所有的ip地址都可以访问notebook。
  • 第201行,把 #c.NotebookApp.open_browser = True 改为 c.NotebookApp.open_browser = False 。jupyter在启动的时候,会默认开启浏览器,但是因为我们是服务器系统,没有桌面系统,也就没有浏览器,所以我们把它设置成否(False)。
  • 第213行,把 #c.NotebookApp.port = 8888 改为 c.NotebookApp.port = 9999。这个是jupyter服务器的端口号,后面会用到,去掉#,后面的数字可以选用一个你喜欢的。然后保存这个文件。

之后还有一个更改,我们要为jupyter服务器设置密码。首先要产生密码。
[AppleScript] 纯文本查看 复制代码
roden@ip-172-31-2-87:~$ python # 进入python
Python 3.6.0 |Anaconda 4.3.1 (64-bit)| (default, Dec 23 2016, 12:22:00)
[GCC 4.4.7 20120313 (Red Hat 4.4.7-1)] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> from notebook.auth import passwd # 运行这句话
>>> passwd() # 再运行这句话
Enter password: # 在这里输入你想好的密码
Verify password: # 重复一遍
'sha1:8d9a354fdd93:91511c80be1a27da1这里是加密后的密文'
>>> # 复制上面这一行加密后的密文。然后按control D退出Python
roden@ip-172-31-2-87:~$
再次编辑那个配置文件,第210行,把 #c.NotebookApp.password = '' 改为 c.NotebookApp.password = 'sha1:加密后的密文'。然后我们再运行jupyter notebook服务器。
[AppleScript] 纯文本查看 复制代码
roden@ip-172-31-2-87:~$ jupyter notebook # 运行jupyter notebook
[I 05:18:14.798 NotebookApp] Writing notebook server cookie secret to /run/user/1001/jupyter/notebook_cookie_secret
[W 05:18:14.843 NotebookApp] WARNING: The notebook server is listening on all IP addresses and not using encryption. This is not recommended.
[I 05:18:14.856 NotebookApp] Serving notebooks from local directory: /home/roden
[I 05:18:14.856 NotebookApp] 0 active kernels
[I 05:18:14.856 NotebookApp] The Jupyter Notebook is running at: http://[all ip addresses on your system]:9999/
[I 05:18:14.856 NotebookApp] Use Control-C to stop this server and shut down all kernels (twice to skip confirmation).
# 这个命令是会一直占用这个shell的,所以它不会退出。
# 如果你需要在shell中继续输入指令,可以再开一个shell。
# 后面我们会讲到如何把这个命令移动到后台执行,这样我们就可以在当前窗口执行其他新的命令了。
2. 配置AWS安全组
在第一讲的教程中,创建EC2的第六步,配置安全组,我们当时使用的是默认值,现在我们来讲讲安全组到底是什么意思。我们可以把服务器看做一栋房子,然后服务器的Public IP地址看做是这个房子的电话号码。世界上其他人通过这个电话号码和这栋房子进行通讯。每次我们和服务器通讯时,除了需要电话号码之外,还需要一个分机号码,这个分机号码就是和服务器连接时用的端口。ssh连接服务器的原理大概是这样。首先在这个房子里面,一直有一个叫ssh的程序等在分机号码22旁边,一旦有人拨打电话,并且选择分机22,这个ssh程序就接通电话,开始询问验证口令(密钥对),验证成功之后,拨打电话的人就可以通过这个电话开始控制这栋房子里面其他人(程序)的行动。而这一切的前提是,亚马逊云允许全世界所有的人拨打这个电话号码,并且选择分机22,这就是我们在配置安全组时选择默认值,亚马逊云会做的事情。
在这一讲前面,我们已经成功地让jupyter notebook站在9999这个分机旁边,准备好接听电话。但是我们还没有在AWS层面允许其他人可以通过9999这个分机拨打电话。所以我们现在要重新配置一下安全组,允许所有人通过9999端口访问服务器。
我们进入到EC2控制台,左键单击我们的服务器,在页面下方会出现这个服务器的详细信息。有一个是“Security groups(安全组)”,点击右边第一个链接,一般是“launch-wizard-1”(最后的数字可能不一样)。这时我们会来到安全组控制台。点击页面中央偏左的“Inbound”。Inbound是入站的意思,对于服务器来说,入站,就是别人打电话到服务器。我们可以看到已经有一个端口“22”,它对应的Source(来源)是“0.0.0.0/0”。来源就是谁能拨打这个电话的意思,而这些0代表所有人都可以拨打。我们现在要开通9999这个端口。依次点击左边的“Edit(编辑)”,“Add Rule(添加规则)”,前两列保留默认值,第三列“Port Range(端口范围)”,输入9999(或者是你当时选用的你喜欢的端口),第四列Source选择“Anywhere”。然后点击右下角的“Save”。这样就配置好安全组了。
3. 运行jupyter notebook
在上述操作完成后,我们就可以通过浏览器访问笔记本了。我们先找到服务器的Public IP,然后打开浏览器,在地址栏输入 Public_IP:port,如 52.89.194.223:9999。这时,会看到页面提示我们输入密码,输入我们之前配置jupyter notebook时设置的密码就可以进入jupyter notebook服务器了。
这时,如果我们回到命令行,会发现那个正在运行的程序多了几行输出,类似下面这样。这是jupyter服务器的日志。
[AppleScript] 纯文本查看 复制代码
[I 17:05:43.349 NotebookApp] 302 GET /tree? (73.140.86.20) 1.45ms
[I 17:05:59.294 NotebookApp] 302 POST /login?next=%2Ftree%3F (73.140.86.20) 1.16ms
如果我们按照它的提示,按 control C 来停止这个服务器。
[AppleScript] 纯文本查看 复制代码
[I 17:05:41.190 NotebookApp] Use Control-C to stop this server and shut down all kernels (twice to skip confirmation). # 提示可以按两次control C来停止服务器
[I 17:05:43.349 NotebookApp] 302 GET /tree? (73.140.86.20) 1.45ms
[I 17:05:59.294 NotebookApp] 302 POST /login?next=%2Ftree%3F (73.140.86.20) 1.16ms
^C[I 17:08:38.218 NotebookApp] interrupted # 第一次按control C
Serving notebooks from local directory: /home/roden
0 active kernels
The Jupyter Notebook is running at: http://[all ip addresses on your system]:9999/
Shutdown this notebook server (y/[n])? ^C # 询问是否确认停止。再次按下control C即可停止服务
[C 17:08:39.401 NotebookApp] received signal 2, stopping
[I 17:08:39.403 NotebookApp] Shutting down kernels
roden@ip-172-31-2-87:~$ # 回到等待命令状态
关闭了之后,如果我们再从浏览器访问那个页面,就发现不能访问了。但是有时我们会想在运行某个耗时很长的命令的同时,在同一个窗口继续输入其他命令,这时我们需要把命令放到后台去执行。需要用到 nohup 和 &这两个关键词。
[AppleScript] 纯文本查看 复制代码
roden@ip-172-31-2-87:~$ nohup jupyter notebook &
# 在之前输入的命令两端分别加上 nohup 和 &,按下回车
[1] 2994
roden@ip-172-31-2-87:~$ nohup: ignoring input and appending output to 'nohup.out'
# 它提示会把输出(输出的日志)存在一个叫nohup.out的文件里面
roden@ip-172-31-2-87:~$ cat nohup.out # 我们查看一下nohup.out这个文件
[W 17:12:58.276 NotebookApp] WARNING: The notebook server is listening on all IP addresses and not using encryption. This is not recommended.
[I 17:12:58.283 NotebookApp] Serving notebooks from local directory: /home/roden
[I 17:12:58.283 NotebookApp] 0 active kernels
[I 17:12:58.283 NotebookApp] The Jupyter Notebook is running at: http://[all ip addresses on your system]:9999/
[I 17:12:58.283 NotebookApp] Use Control-C to stop this server and shut down all kernels (twice to skip confirmation).
# 会发现它和之前在命令行里面出现的是一样的。
roden@ip-172-31-2-87:~$ # 这个时候我们可以访问jupyter服务,也能输入其他的命令,如下
roden@ip-172-31-2-87:~$ ls
anaconda3  bwa  disk_1  download  nohup.out
roden@ip-172-31-2-87:~$
nohup的意思是,ignore the HUP (hangup),忽视挂断信号。说人话就是,不要中断这个程序。就像有些酒店进入房间的时候,需要插入房卡,这样就接通了电流。我们登录服务器的时候,就像插入了房卡。当我们离开房间的时候,我们的笔记本电脑可能还在充电,我们希望拿走房卡,但是又不希望会断电,这时我们需要把充电器接在不会断电的电源那里。在命令行里面,nohup这个标志就像是不会断电的电源。我们退出服务器的时候,就像是拿走了房卡,但是这个命令还是会继续运行。而该命令运行过程中的输出,默认会被写入到当前文件夹下 nohup.out这个文件里面。
另外末尾的 &AND符号的意思是,把命令放到后台去执行。也就是不要在命令行里面输出一大堆结果,并且占用当前这个命令行窗口。使用这个 &符号会强制在开始执行这一句命令之后,立马把命令行的控制权返回到用户手上,不管这个程序是否结束。下面是一些例子。
[AppleScript] 纯文本查看 复制代码
roden@ip-172-31-2-87:~/test$ ls
1.txt  2.txt
roden@ip-172-31-2-87:~/test$ nohup ls # 使用nohup
nohup: ignoring input and appending output to 'nohup.out'
roden@ip-172-31-2-87:~/test$ cat nohup.out
1.txt
2.txt
nohup.out
roden@ip-172-31-2-87:~/test$ sleep 10 # 这是暂停10秒钟的意思。接下来10秒钟我们失去了命令行的控制权。
roden@ip-172-31-2-87:~/test$ sleep 10 & # 当我们使用 & 符号时,控制权会立马回到我们手上。
[1] 6349 # 这是线程号,就是sleep这个命令被安排到这个线程下面去运行了。
roden@ip-172-31-2-87:~/test$
[1]+  Done                    sleep 10
# 过一会儿我们再按回车的话,它会提示刚刚那个sleep的工作已经完成了
roden@ip-172-31-2-87:~/test$
我们可以使用 kill这个命令来关停一些正在运行的工作。
[AppleScript] 纯文本查看 复制代码
roden@ip-172-31-2-87:~/test$ sleep 100 &
[1] 6352
roden@ip-172-31-2-87:~/test$ sleep 1000 &
[2] 6353
roden@ip-172-31-2-87:~/test$ jobs # 使用 jobs 来查看正在运行的工作
[1]-  Running                 sleep 100 & # 注意前面的编号
[2]+  Running                 sleep 1000 &
roden@ip-172-31-2-87:~/test$
roden@ip-172-31-2-87:~/test$ kill %1  # 停掉编号为1的工作
roden@ip-172-31-2-87:~/test$ jobs 
[1]-  Terminated              sleep 100 # 会显示工作1被终止了
[2]+  Running                 sleep 1000 &
roden@ip-172-31-2-87:~/test$ jobs
[2]+  Running                 sleep 1000 & # 再次查看所有还在运行的工作时,就只剩下2了
roden@ip-172-31-2-87:~/test$
另外一个终止工作的方法是终止那个进程。
[AppleScript] 纯文本查看 复制代码
roden@ip-172-31-2-87:~/test$ nohup jupyter notebook & # 在后台运行一个命令
[3] 6360
roden@ip-172-31-2-87:~/test$ nohup: ignoring input and appending output to 'nohup.out'
roden@ip-172-31-2-87:~/test$ top -cu roden # 查看某个用户(“u”,user)的进程,"c"是显示命令(command)
top - 04:17:03 up 9 min,  1 user,  load average: 0.00, 0.06, 0.07
Tasks: 118 total,   1 running, 117 sleeping,   0 stopped,   0 zombie
%Cpu(s):  3.0 us,  1.6 sy,  1.0 ni, 90.7 id,  2.7 wa,  0.0 hi,  0.0 si,  0.9 st
KiB Mem :  1014440 total,   289948 free,    82632 used,   641860 buff/cache
KiB Swap:        0 total,        0 free,        0 used.   745520 avail Mem
  PID USER      PR  NI    VIRT    RES    SHR S %CPU %MEM     TIME+ COMMAND
 6254 roden     20   0   45248   4512   3820 S  0.0  0.4   0:00.00 /lib/systemd/systemd --user
 6256 roden     20   0   61272   1992      4 S  0.0  0.2   0:00.00 (sd-pam)
 6314 roden     20   0   95368   4260   3308 S  0.0  0.4   0:00.02 sshd: roden@pts/0
 6317 roden     20   0   21392   5380   3420 S  0.0  0.5   0:00.06 -bash
 6353 roden     20   0    6012    808    732 S  0.0  0.1   0:00.00 sleep 1000
 6360 roden     20   0  199532  52964  11848 S  0.0  5.2   0:01.06 /home/roden/anaconda3/bin/python /home/roden/anaconda3/bin/jupyter-notebook
 # 我们可以看到jupyter这个命令的进程是6360
 6367 roden     20   0   40560   3624   3020 R  0.0  0.4   0:00.00 top -cu roden
roden@ip-172-31-2-87:~/test$ kill -9 6360 # 终止6360这个进程
roden@ip-172-31-2-87:~/test$ # 如果我们再次用top查看的话,会发现这个进程已经被停止了。
4. 访问并使用jupyter notebook
我们再次运行并且访问jupyter notebook。点击右上角的"New -> Python 3",创建一个新的notebook。在出来的新页面中,会出现一行可以输入代码的格子,这个叫做Cell(单元格,生物里面译作细胞),我们在单元格里面输入下面的Python代码。
[AppleScript] 纯文本查看 复制代码
print("Hello jupyter on EC2")
然后点击工具栏里面的“Cell -> Run All”。会看到下面的输出。
[AppleScript] 纯文本查看 复制代码
Hello jupyter on EC2
然后我们可以回到代码单元格,按下“Shift + 回车”,这个会运行当前单元格,并且在下面插入一个新的单元格。也可以使用“Insert -> Insert Cell Below”。
在下面的推荐阅读中有jupyter notebook的快捷键的使用,和Python的入门教程。
推荐阅读
  • Anaconda官方说明书,管理环境,英文。
  • Jupyter notebook官方说明书,运行一个笔记本服务器,英文。
  • Jupyter notebook编辑器快捷键,英文教程1,英文教程2。
  • 《简明python教程》。英文,中文。
  • 《零基础学Python》,中文。

集锦卡
  • 安装Anaconda。到Anaconda官网下载页面获取conda的下载地址。 wget https://repo.continuum.io/archive/Anaconda3-4.3.1-Linux-x86_64.sh 下载到服务器。 bash Anaconda3-4.3.1-Linux-x86_64.sh安装。退出并再次登录服务器,或者执行命令 source ~/.bashrc,之后就可以使用 conda了。
  • conda info --envs 查看当前已有的环境。
  • conda create -n py27 python=2.7创建新的Python环境,这里建的是名字为py27的环境,使用Python 2.7。
  • source activate py27启用环境py27
  • 在服务器上运行jupyter notebook。
  • 配置。 jupyter notebook --generate-config生成配置文件。
  • 编辑配置文件 vi /home/roden/.jupyter/jupyter_notebook_config.py
  • 第158行,把 #c.NotebookApp.ip = 'localhost' 改为 c.NotebookApp.ip ='*'。第201行,把 #c.NotebookApp.open_browser = True 改为 c.NotebookApp.open_browser = False 。第213行,把 #c.NotebookApp.port = 8888 改为 c.NotebookApp.port = 9999。
  • 输入 python进入交互式python解释器,依次输入 from notebook.auth importpasswd, passwd(),然后输入密码,复制密文。
  • 再次编辑配置文件。第210行,把 #c.NotebookApp.password = '' 改为 c.NotebookApp.password = 'sha1:加密后的密文'。
  • jupyter notebook运行jupyter notebook。
  • 配置AWS安全组。进入到EC2控制台,左键单击我们的服务器,在页面下方会出现这个服务器的详细信息。有一个是“Security groups(安全组)”,点击右边第一个链接,一般是“launch-wizard-1”(最后的数字可能不一样)。点击页面中央偏左的“Inbound”,依次点击左边的“Edit(编辑)”,“Add Rule(添加规则)”,前两列保留默认值,第三列“Port Range(端口范围)”,输入9999(或者是你当时选用的你喜欢的端口),第四列Source选择“Anywhere”。然后点击右下角的“Save”。
  • 不间断运行jupyter notebook。 nohup jupyter notebook &
  • kill %1 # 停掉编号为1的工作。 kill -9 6360 终止6360这个进程。







上一篇:亚马逊云教程3:文件传输,扩大存储,S3,快速输入命令
下一篇:亚马逊云教程5:安装TensorFlow,运行MNIST
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|手机版|小黑屋|生信技能树 ( 粤ICP备15016384号  

GMT+8, 2019-9-16 09:16 , Processed in 0.058117 second(s), 26 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.